-
小扎豪赌大模型!Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑:拉燕 Aeneas【新智元导读】全世界都在卷大模型,小扎也急了。如今,Meta为了发展AI,在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了!本周四,Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说,MTIA对Meta是一个巨大的福音,尤其是现在各家都在卷大模型,对AI算力的需求变得越来越高。小扎最近表示,Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然,随着Meta加大对AI的投入,MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具,现在没有哪家巨头不在AI上投入大量资源。可以看到,凭着定制芯片和超算,Meta在AI上下了大赌注。MTIA在最近的一次线上活动中,Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器,简称MTIA。MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」,它提供了比CPU「更高的计算能力和效率」,并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU,Janardhan 表示,Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说,这是Meta实力的投射。其实,一直以来,Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对(如微软、谷歌等)保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示,构建属于自己的硬件,Meta就有能力控制堆栈的每一层,包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产,尤其是生成式AI。一直到2022年,Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片,转而订购了价值数十亿美元的英伟达GPU。引入这些GPU,Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面,Meta计划开发一款内部芯片,预计于2025年推出。这款内部芯片既能训练AI模型,还能运行AI模型,可谓性能强大。主角终于来了——新芯片名叫MITA,全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示,MTIA是一种ASIC,指的是一种在一块板上组合不同电路的芯片。通过编程,该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道,科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU,用来训练Palm-2和Imagen。亚马逊也有自己的芯片,用于训练AI模型。此外,有消息称微软也在和AMD开发一款叫Athena的芯片。这不,MITA的到来也是Meta不甘示弱的表现。Meta表示,2020年他们创建了第一代的MITA——MITA v1,采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。在芯片的内存和网络部分,还有不少工作要做。随着AI模型的规模越来越大,MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此,Meta表示,会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年,Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分,包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造,运行频率为800 MHz,在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
Meta旗下Instagram准备在夏季推出与推特竞争的新产品
钛媒体App 5月20日消息,Instagram正计划推出一款基于文本的应用,将与推特展开竞争。根据知情人士透露,该公司目前正在与知名人士和网红合作,对该项目进行测试...
智能设备 2023-05-20 11:25:25 -
公布全新定制芯片,Meta豪赌AI,更新基础设施花费创纪录
5月19日消息,过去一年,社交媒体巨头Meta致力于削减成本和裁员,但更新基础设施的花费却创下了纪录,这是为了在AI竞赛中保持领先地位。当地时间周四,Meta发布了一系列新技术,这包括一种新的定制芯片,能够帮助更快地训练AI,以及一款编程工具,可为程序员提供开发产品的建议。此外,该公司还在改造其旗下数据中心,以便更轻松地部署AI技术。Meta首席执行官马克·扎克伯格(Mark Zuckerberg)在一份电子邮件声明中说:"这项工作反映了我们长期的努力,将使我们在各个领域中能够更好地利用这项技术,并取得更多的进步。”为了加速Facebook和Instagram上的推荐算法,Meta正在开发一款定制加速器芯片。此外,该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示,他们已完成AI超级计算机的第二阶段建设,用于训练类似ChatGPT的大语言模型。去年,Meta的资本支出创下了历史新高,达到了314亿美元,比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”,分析人士估计,Meta今年的投资水平将与2022年相当,其中很多资金将用于改进和扩大AI基础设施。Meta AI研究主管金·哈泽尔伍德(Kim Hazelwood)表示:“虽然我们在提高效率方面遇到了一些困难,但这并不意味着在投资AI和提升效率之间存在直接的竞争。”一些AI更新显然提高了Meta的内部效率,这导致公司在最近几个月内裁掉了数千名员工。CodeCompose是一款基于生成式AI的新型开发工具,可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示,目前已有5200名内部程序员在使用CodeCompose,其中AI提出的编写代码建议中有22%被采纳。Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策,很多广告商的数字广告精确定位目标用户更加困难,Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争,Facebook和Instagram也开始展示用户并不关注的账户内容,这需要一种算法来猜测用户可能对什么感兴趣。市场研究公司CFRA Research分析师安吉洛·齐诺(Angelo Zino)在接受采访时表示,投资者将会寻求直接的证据来证明这些改进,以证明大笔支出是合理的。“很明显,这些事情需要一些时间,不可能一蹴而就,” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核,确保能够加速实现收入方面的一些回报。”当我们询问AI模型时,它们会做出回答,这个过程就是所谓的推理,这需要特定类型的运算过程。Meta决定开发新的芯片MTIA(Meta Training and Inference Accelerator,意思是Meta训练和推理加速器),帮助完成内部特定的工作,补充英伟达GPU的数量不足(即使已大量采购)。Meta希望MTIA芯片能提升能力,为用户预测更准确、更有趣的原创和广告内容类型,从而让人们花更多时间使用应用程序并点击更多广告。该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频,这款新型处理器都可以帮助用户更快地显示这些视频,并且需要更少的流量。Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示:“我们成功地对第一批芯片进行了优化、平衡和精准调整,以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求,这些信息都尽在掌握。”Meta社交媒体app使用的推荐引擎基于当前的AI技术,但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。周四,Meta宣布已完成第二阶段的建设,训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用,但部分成果是开源的。和LLaMA模型一样,由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外,新推理芯片将有助于Meta继续支持PyTorch,这是其创建的开源AI框架,并已转移到Linux基金会,以增加其独立性。尽管Meta多年来一直致力于开发AI工具,但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示,这种转变受到了投资者的严厉审视,因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。凯斯勒表示,当行业竞相将AI融入业务之时,“他们不想输在起跑线上,”他说:“相比六到九个月前,现在更多人相信这种说法了。”(辰辰) ...
业界动态 2023-05-19 17:20:48 -
英国政府计划邀请OpenAI、DeepMind负责人参加AI峰会
5月19日消息,据外媒援引知情人士透露,英国政府计划邀请多家知名人工智能公司负责人参加人工智能峰会。英国首相里希·苏纳克(Rishi Sunak)目前正在制定一项政策,以管理这项技术带来的风险和好处...
业界动态 2023-05-19 17:20:48 -
喜大普奔iPhone可以同步Windows11了
微软表示,其Phone Link应用对iPhone的支持现在已经对所有Windows 11用户开放。微软在2月份宣布,该功能允许在iPhone和PC之间同步通话、联系人和信息,包括有限的iMessage支持。自2015年以来,Phone Link一直存在(以不同的名称)用于安卓同步的桌面功能,但这是它第一次支持iPhone手机。微软已经部署了一个分阶段的发射,从2月下旬的部分Windows Insider预览版测试者开始。然后,该公司在上个月开始推出普遍可用性,承诺在5月中旬支持所有Windows 11用户。所以,就在今天,它说每个拥有Windows PC和iPhone的人现在都可以使用这个新功能。iPhone的Phone Link有几个限制,而安卓手机则没有。首先,虽然它支持iMessage同步,但它不能用于群组聊天或发送图片和视频。此外,语音信息和iMessage应用程序也无法使用。不过,它还是可以作为一个方便的内置服务,让你免于在电脑和手机之间切换。要开始使用,你要在Windows任务栏中搜索 "Phone Link"。打开该应用程序后,你仍然需要在两台设备上设置一些东西。首先,选择iPhone作为你的设备类型,并使用你的手机摄像头扫描Phone Link应用程序中的QR码。设备将通过蓝牙配对,你需要在iPhone和PC上确认几个权限。它支持任何运行iOS 14.0或更高版本的iPhone。 ...
手机互联 2023-05-19 08:56:11 -
OPPOReno10即将发布,FindX6系列影像能力下放,你感兴趣吗?
OPPO Reno10 系列官宣,5 月 24 日正式发布,该机有哪些亮点?看了这个发布会的时间,我心里长长地呼了一口气,多亏是在5月24日发布,不是在5月20日之前发布,OPPO Reno系列一款主打颜值时尚的手机。购买人群比较集中在女性群体,而如今正好到了520这个关口,送礼物就是一个最值得关注的事情,也许很多女孩子们正期望男朋友和老公给换手机!但是优先级肯定是iPhone手机,接着才是OPPO Reno系列和vivoS系列!对于这款手机从官方释放的消息可以看出,大内存是OPPO这两年最大的卖点,16G+256G起步,这款手机的摄像头分布也能看出来是有潜望式镜头要上了!(潜望式镜头总是有着那么明显的标志性,无论是哪家手机厂商采用潜望式,都设计成为了方形的!)乍一看有点OPPO findX6设计师的味道,只是镜头模组地方从占地面积特别大的圆形做成了椭圆形放在侧边设计!不得不感慨一句,设计师可能偷懒了哦,往期的作品reno系列和find X系列还是有一些差异的...
手机互联 2023-05-19 08:49:43 -
瑞星推出基于ChatGPT的EDR、NDR产品
5月18日消息,瑞星今天在京发布了瑞星终端威胁检测与响应系统(EDR)、瑞星网络威胁检测与响应系统(NDR)两款新品,同时宣布新一代瑞星网络安全平台的推出。瑞星公司总裁刘文杰向在场嘉宾介绍了由“星核——能力和创新平台”、“星云——终端安全平台”、“星网——网络安全平台”和“星海——数据安全平台”组成的新一代瑞星网络安全平台,与瑞星公司未来的发展方向...
互联网 2023-05-18 18:38:53 -
realme真我C53手机渲染图曝光:展锐T612芯片+5000万主摄
IT之家 5 月 18 日消息,realme 真我即将推出 C53 手机,目前已经通过 NBTC、EEC 和 FCC 机构的认证。国外科技媒体 appuals 在最新报道中,分享了该机的高清渲染图和规格信息。realme C53 在发售之后会有黑色和金色两种颜色,正面配备 6.74 英寸 LCD 面板,采用 U 型水滴屏,500 万自拍摄像头,HD+ 分辨率,屏幕刷新率为 90Hz。IT之家从报道中获悉,该机搭载紫光展锐 T612 芯片,6GB LPDDR4X RAM 和 128GB UFS 2...
手机互联 2023-05-18 10:05:57 -
Meta高管:元宇宙能给职业教育带来“变革”可与AI共存而非被取代
5月17日消息,Facebook母公司Meta的高管们认为,元宇宙可以与生成式人工智能共存,并将给岗前培训和职业教育带来“变革”,而且Meta“可以两者兼顾”。Meta正在将元宇宙技术作为一种帮助培训员工的工具,以此来重振公众对元宇宙的兴趣...
业界动态 2023-05-17 08:09:29 -
DeepMind联合创始人警告谷歌:传统搜索引擎十年内消失
人工智能实验室DeepMind联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)向他的前雇主谷歌发出了严厉警告:互联网即将发生根本性变革,老式搜索引擎将在十年内消失。在近期接受No Priors播客节目采访时,苏莱曼表示:“如果我是谷歌,我会非常担心,因为老式搜索引擎将在十年内不复存在...
业界动态 2023-05-16 15:57:23 -
PC端也能收发苹果iMessage信息,微软开放新版PhoneLink应用
IT之家 5 月 16 日消息,微软在今年 4 月宣布之后,于今天正式面向全球 Win10、Win11 用户开放新版 Phone Link 应用,可以在 PC 端收发苹果 iMessage 信息。通过 Win10、Win11 上的 Phone Link 应用和 iOS 上的 Link to Windows 应用,iPhone 用户可以直接在电脑上接打电话、收发短信和查看通知...
手机互联 2023-05-16 07:10:21 -
暴涨又暴跌,马斯克频频点名的“Memecoin”为何能成币圈新盘口?
界面新闻记者|司林威近日,以比特币、以太坊为核心的加密货币大盘并未大幅波动,但一个名为“PEPE”(佩佩)的空气币种的价格却在一周中暴跌了60%以上,市值已削减至约5.6亿美元。值得注意的是,暴跌之前,这个名为“PEPE”的“Memecoin”在币圈还创造了一个投机神话。所谓“Memecoin”,直译为“模因币”,是币圈空气币的一中,指和主流币种相比,毫无基本面价值的一些山寨代币。但和一般的空气币相比,“Memecoin”又有着不同之处,它们往往具备简单明了的叙事逻辑,具备话题性并能引起大众关注,在社交媒体上有着极大的传播度,其中最为典型的代表就是“狗狗币”。“狗狗币”曾在2021年的币圈大牛市中火热出圈,在特斯拉首席执行官埃隆·马斯克的热捧下成为推特上的热点之一。但现在,以经典的青蛙表情包为形象的“PEPE”正成为新一代“狗狗币”。今年4月初,推特用户@PEPEcoineth发布了一张绿皮青蛙戴着红帽子的照片,帽子上写着模仿美国前总统唐纳德·特朗普的总统大选口号的“让网红币再次伟大”(Make Memecoins Great Again)。在其官网上,“狗狗币的时代已经过去了,现在最火的模因币是佩佩”这句话也格外醒目。两周后,PEPE币发行,总发行量为420...
区块链 2023-05-15 10:18:50