-
小扎豪赌大模型!Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑:拉燕 Aeneas【新智元导读】全世界都在卷大模型,小扎也急了。如今,Meta为了发展AI,在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了!本周四,Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说,MTIA对Meta是一个巨大的福音,尤其是现在各家都在卷大模型,对AI算力的需求变得越来越高。小扎最近表示,Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然,随着Meta加大对AI的投入,MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具,现在没有哪家巨头不在AI上投入大量资源。可以看到,凭着定制芯片和超算,Meta在AI上下了大赌注。MTIA在最近的一次线上活动中,Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器,简称MTIA。MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」,它提供了比CPU「更高的计算能力和效率」,并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU,Janardhan 表示,Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说,这是Meta实力的投射。其实,一直以来,Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对(如微软、谷歌等)保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示,构建属于自己的硬件,Meta就有能力控制堆栈的每一层,包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产,尤其是生成式AI。一直到2022年,Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片,转而订购了价值数十亿美元的英伟达GPU。引入这些GPU,Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面,Meta计划开发一款内部芯片,预计于2025年推出。这款内部芯片既能训练AI模型,还能运行AI模型,可谓性能强大。主角终于来了——新芯片名叫MITA,全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示,MTIA是一种ASIC,指的是一种在一块板上组合不同电路的芯片。通过编程,该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道,科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU,用来训练Palm-2和Imagen。亚马逊也有自己的芯片,用于训练AI模型。此外,有消息称微软也在和AMD开发一款叫Athena的芯片。这不,MITA的到来也是Meta不甘示弱的表现。Meta表示,2020年他们创建了第一代的MITA——MITA v1,采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。在芯片的内存和网络部分,还有不少工作要做。随着AI模型的规模越来越大,MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此,Meta表示,会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年,Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分,包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造,运行频率为800 MHz,在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
Sql Server Management Studio连接Mysql的实现步骤
目标已知mysql连接参数(地址和用户),期望通过Microsoft Sql Server Management Studio (以下简称MSSSMS)连接Mysql,在MSSSMS中直接查询或修改Mysql中的数据。实现步骤1/4:下载MySql Connector/ODBC并安装,下载地址:MySQL :: Download Connector/ODBC根据操作系统位数选择相应的安装文件,安装时可能会提示先安装Microsoft OLE DB Driver ,安装成功后如下:步骤2/4:创建DSN ( data source name) 步骤3/4:创建链接服务器--创建链接服务器EXEC sp_addlinkedserver @server = 'crm', @srvproduct='MySQL',@provider = 'MSDASQL',@datasrc ='crmDNS' --删除链接服务器execute sys.sp_dropserver @server='crm'其中的 @server = 'crm'指自定义的服务名, @datasrc ='crmDNS' 是指 ODBC中的数据源名称。 步骤4/4:使用演示上图是查询结果上图是在sql server 数据库中把数据插入到mysql数据库到此这篇关于Sql Server Management Studio连接Mysql的实现步骤的文章就介绍到这了,更多相关Sql Server Management Studio连接Mysql内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家! ...
数据库操作教程 2023-05-12 12:13:01 -
苹果发布macOSVentura13.4RC2更新:优化AppleNew
IT之家 5 月 12 日消息,苹果今天面向开发人员,发布了 macOS Ventura 13.4 的第 2 个候选 RC 版本(内部版本号 22F63),距离上个候选版本相隔数天时间。已经注册的开发者可以访问 Apple Developer Center 进行下载,或者通过“系统设置”中的“软件更新”机制升级测试版。IT之家附 macOS Ventura 13...
智能设备 2023-05-12 11:11:53 -
AI读心重磅突破登Nature!大脑信号1秒被看穿,还能预测未来画面
新智元报道编辑:编辑部【新智元导读】最近,来自洛桑联邦理工学院的研究团队提出了一种全新的方法,可以用AI从大脑信号中提取视频画面。论文已登Nature,却遭网友疯狂「打假」...
智能设备 2023-05-07 13:10:41 -
苹果macOSVenturaBeta3已移除比特币白皮书
IT之家4月26日消息,苹果今天面向开发者,发布了macOSVentura13.4Beta3更新。国外科技媒体9to5Mac发现,苹果已删除了隐藏的比特币白皮书...
区块链 2023-04-26 08:46:08 -
小米又耍猴了?RedmiNote12Turbo顶配版一机难求
科客点评:RedmiNote12Turbo开启了新一轮2000元档机型的性价比之争,但笑到最后的未必是自己。 3月28日晚,Redmi正式发布新机RedmiNote12Turbo...
手机互联 2023-03-30 08:03:00 -
红米Note12Turbo发布全球首发第二代高通骁龙7+售价1999元起
3月28日消息,今天小米在北京环球影城发布了红米Note12Turbo,首发第二代高通骁龙7+处理器,售价1999元起。发布会上,小米总裁、国际部总裁兼Redmi品牌总经理卢伟冰透露,红米Note系列全球累计销量已经突破了3.2亿...
电信通讯 2023-03-29 11:07:11 -
一位AI画家的成长历程丨TECHTUESDAY
都是AI文生图,为何差别这么大。文丨贺乾明编辑丨龚方毅在电脑上输入几个词,等着在屏幕上看到它们被转化成图片,比如山川湖海、鸟兽鱼虫、楼宇院落、人物肖像...
智能设备 2023-03-29 11:06:57 -
RedmiNote12Turbo来了雷军:性能实测令人惊讶
今日消息,小米创办人雷军表示,RedmiNote12Turbo作为中端机,拥有令人震惊的表现。在超严酷的大型RPG游戏测试中,RedmiNote12Turbo实测59.7fps,拥有手机同档"不敢想象"的接近满帧表现...
手机互联 2023-03-24 11:07:01 -
RedmiNote12Turbo手机采用超细四窄边
IT之家3月23日消息,Redmi红米手机官方宣布,RedmiNote12Turbo定档3月28日晚7点发布,这是小金刚家族全新成员,定位更在Pro之上。今天官方预热RedmiNote12Turbo,全新小金刚Note12Turbo采用超细四窄边,无屏幕支架设计,依然是潮流小立边...
手机互联 2023-03-24 11:06:59 -
因内容成本上涨,谷歌上调YouTubeTV订阅费至73美元每月
3月17日消息,当地时间周四,谷歌宣布旗下YouTubeTV电视订阅服务价格上涨。根据当天谷歌发给订阅用户的一封电子邮件,从今年4月份开始,YouTubeTV订阅费用将从每月65美元上涨到每月73美元...
互联网 2023-03-17 07:40:12 -
GPT-4应开发者要求,使用SwiftUI开发出一款iPhone应用
IT之家3月16日消息,开发者利用OpenAI昨日推出的GPT-4大型语言模型,让其使用SwiftUI创建了一款iPhone应用程序。该应用程序的主要功能是,每天向用户推荐5部新电影、新预告片,以及可以在哪里观看这部电影...
智能设备 2023-03-16 09:51:27