-
小扎豪赌大模型!Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑:拉燕 Aeneas【新智元导读】全世界都在卷大模型,小扎也急了。如今,Meta为了发展AI,在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了!本周四,Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说,MTIA对Meta是一个巨大的福音,尤其是现在各家都在卷大模型,对AI算力的需求变得越来越高。小扎最近表示,Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然,随着Meta加大对AI的投入,MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具,现在没有哪家巨头不在AI上投入大量资源。可以看到,凭着定制芯片和超算,Meta在AI上下了大赌注。MTIA在最近的一次线上活动中,Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器,简称MTIA。MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」,它提供了比CPU「更高的计算能力和效率」,并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU,Janardhan 表示,Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说,这是Meta实力的投射。其实,一直以来,Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对(如微软、谷歌等)保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示,构建属于自己的硬件,Meta就有能力控制堆栈的每一层,包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产,尤其是生成式AI。一直到2022年,Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片,转而订购了价值数十亿美元的英伟达GPU。引入这些GPU,Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面,Meta计划开发一款内部芯片,预计于2025年推出。这款内部芯片既能训练AI模型,还能运行AI模型,可谓性能强大。主角终于来了——新芯片名叫MITA,全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示,MTIA是一种ASIC,指的是一种在一块板上组合不同电路的芯片。通过编程,该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道,科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU,用来训练Palm-2和Imagen。亚马逊也有自己的芯片,用于训练AI模型。此外,有消息称微软也在和AMD开发一款叫Athena的芯片。这不,MITA的到来也是Meta不甘示弱的表现。Meta表示,2020年他们创建了第一代的MITA——MITA v1,采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。在芯片的内存和网络部分,还有不少工作要做。随着AI模型的规模越来越大,MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此,Meta表示,会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年,Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分,包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造,运行频率为800 MHz,在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
算力需求迫切!北京这一计划直指AI痛点点名Chiplet“弥补技术代差”
①计划提出加快满足近期迫切算力需求、提升中长期算力供给能力等;且以Chiplet技术进步弥补先进工艺技术代差; ②Chiplet能突破SoC单芯片的面积制约、缓解“存储墙”问题,较适合大算力芯片。 《科创板日报》5月20日讯(编辑 郑远方)根据北京市经信局官网19日消息,北京市拟组织实施“北京市通用人工智能产业创新伙伴计划”...
智能设备 2023-05-20 11:25:39 -
Meta旗下Instagram准备在夏季推出与推特竞争的新产品
钛媒体App 5月20日消息,Instagram正计划推出一款基于文本的应用,将与推特展开竞争。根据知情人士透露,该公司目前正在与知名人士和网红合作,对该项目进行测试...
智能设备 2023-05-20 11:25:25 -
公布全新定制芯片,Meta豪赌AI,更新基础设施花费创纪录
5月19日消息,过去一年,社交媒体巨头Meta致力于削减成本和裁员,但更新基础设施的花费却创下了纪录,这是为了在AI竞赛中保持领先地位。当地时间周四,Meta发布了一系列新技术,这包括一种新的定制芯片,能够帮助更快地训练AI,以及一款编程工具,可为程序员提供开发产品的建议。此外,该公司还在改造其旗下数据中心,以便更轻松地部署AI技术。Meta首席执行官马克·扎克伯格(Mark Zuckerberg)在一份电子邮件声明中说:"这项工作反映了我们长期的努力,将使我们在各个领域中能够更好地利用这项技术,并取得更多的进步。”为了加速Facebook和Instagram上的推荐算法,Meta正在开发一款定制加速器芯片。此外,该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示,他们已完成AI超级计算机的第二阶段建设,用于训练类似ChatGPT的大语言模型。去年,Meta的资本支出创下了历史新高,达到了314亿美元,比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”,分析人士估计,Meta今年的投资水平将与2022年相当,其中很多资金将用于改进和扩大AI基础设施。Meta AI研究主管金·哈泽尔伍德(Kim Hazelwood)表示:“虽然我们在提高效率方面遇到了一些困难,但这并不意味着在投资AI和提升效率之间存在直接的竞争。”一些AI更新显然提高了Meta的内部效率,这导致公司在最近几个月内裁掉了数千名员工。CodeCompose是一款基于生成式AI的新型开发工具,可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示,目前已有5200名内部程序员在使用CodeCompose,其中AI提出的编写代码建议中有22%被采纳。Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策,很多广告商的数字广告精确定位目标用户更加困难,Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争,Facebook和Instagram也开始展示用户并不关注的账户内容,这需要一种算法来猜测用户可能对什么感兴趣。市场研究公司CFRA Research分析师安吉洛·齐诺(Angelo Zino)在接受采访时表示,投资者将会寻求直接的证据来证明这些改进,以证明大笔支出是合理的。“很明显,这些事情需要一些时间,不可能一蹴而就,” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核,确保能够加速实现收入方面的一些回报。”当我们询问AI模型时,它们会做出回答,这个过程就是所谓的推理,这需要特定类型的运算过程。Meta决定开发新的芯片MTIA(Meta Training and Inference Accelerator,意思是Meta训练和推理加速器),帮助完成内部特定的工作,补充英伟达GPU的数量不足(即使已大量采购)。Meta希望MTIA芯片能提升能力,为用户预测更准确、更有趣的原创和广告内容类型,从而让人们花更多时间使用应用程序并点击更多广告。该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频,这款新型处理器都可以帮助用户更快地显示这些视频,并且需要更少的流量。Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示:“我们成功地对第一批芯片进行了优化、平衡和精准调整,以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求,这些信息都尽在掌握。”Meta社交媒体app使用的推荐引擎基于当前的AI技术,但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。周四,Meta宣布已完成第二阶段的建设,训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用,但部分成果是开源的。和LLaMA模型一样,由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外,新推理芯片将有助于Meta继续支持PyTorch,这是其创建的开源AI框架,并已转移到Linux基金会,以增加其独立性。尽管Meta多年来一直致力于开发AI工具,但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示,这种转变受到了投资者的严厉审视,因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。凯斯勒表示,当行业竞相将AI融入业务之时,“他们不想输在起跑线上,”他说:“相比六到九个月前,现在更多人相信这种说法了。”(辰辰) ...
业界动态 2023-05-19 17:20:48 -
苹果watchOS9.5正式发布
IT之家 5 月 19 日消息,苹果今日向 Apple Watch 用户推送了 watchOS 9.5 更新(内部版本号:20T562),本次更新距离上次发布隔了 52 天。 需要注意的是,因苹果各区域节点服务器配置缓存问题,可能有些地方探测到升级更新的时间略有延迟,一般半小时内,不会太久。 本文由机器人发布,IT之家稍后将为大家带来具体更新内容。 ...
智能设备 2023-05-19 11:51:56 -
利润成倍增长后,Tether决定拿出15%增持比特币作为储备资产
界面新闻记者|司马林威5月17日,全球最大的美元稳定币发行商Tether宣布,将从本月开始使用部分利润定期购买比特币 ( BTC ) 作为其稳定币储备,将分配高达约15%的已实现投资利润(不包括其储备资产的任何未实现价格增值)来购买比特币,并将这些代币添加到其储备盈余中。Tether的首席技术官保罗·阿多伊诺 (Paolo Ardoino) 表示:“比特币不断证明其韧性,并已成为具有巨大增长潜力的长期价值储存手段。其有限的供应、分散的性质和广泛的采用使比特币成为机构和散户投资者的首选。”加密稳定币现在是一个市值1310亿美元的资产类别,已成为加密货币基础设施的重要组成部分,通过将其价格锚定在法定货币(通常是美元)上,它充当着法定货币和加密货币之间的交易媒介。而Tether公司发行的USDT目前是为全球最大的美元稳定币,市值约820亿美元。根据其规定,每一枚USDT都将锚定一美元市值。本月初,Tether公司发布了一份与公共会计师事务所BDO Italia审计后的财务报告,报告显示其第一财季净利润为15亿美元,是上一财季的两倍多。其在第一财季结束时的合并总资产为820亿美元,高于2022年底的670亿美元。截至3月底,Tether持有超过690亿美元的现金和现金等价物,其中530亿美元为短期美国国债。在2022年底,Tether持有550亿美元的现金和现金等价物,其中390亿美元为短期国债。Tether目前还持有价值15亿美元的比特币和价值34亿美元的黄金。同时,该公司强调自己的超额储备创造了历史峰值,截至2023年5月9日,该公司管理层声明集团综合总资产至少达818亿美元,综合负债总额为793亿美元,这些负债主要源自其发行的加密稳定币。Tether的超额储备在一季度创造了24.4亿美元的历史新高。Tether的报告是由BDO Italia会计师事务所进行的最新认证的一部分。与全面审计不同,认证只记录公司在某个时间点的财务状况。但该公司最近受到指控,称其准备金索赔“可疑”。前美国证券交易委员会前执法律师约翰·里德·斯塔克 (John Reed Stark) 辩称,该公司定期未经审计的证明“毫无意义”。《华尔街日报》3月份报道称,Tether的公司使用了虚假文件和空壳公司,但Tether称这一指控“完全不准确且具有误导性”。和另一家在美国银行业危机遭遇动荡的稳定币发行商Circle不一样,多年来,Tether因其储备缺乏透明度和有争议的投资决策而在加密行业受到批评。不过,美国区域银行业危机打击了Circle发行的第二大美元稳定币USDC。硅谷银行 (SVB) 的突然倒闭导致USDC的部分现金储备冻结在银行,使得这种稳定币暂时失去了与美元挂钩的能力。而另一家竞争对手,发行了第三大美元稳定币BUSD的Paxos,在美国监管压力下已经放弃了这一业务,因此Tether发行的USDT成为了近期加密稳定币需求的首选。截至发稿前,比特币最新报价为27332美元,24小时涨幅0...
区块链 2023-05-18 11:33:44 -
Meta高管:元宇宙能给职业教育带来“变革”可与AI共存而非被取代
5月17日消息,Facebook母公司Meta的高管们认为,元宇宙可以与生成式人工智能共存,并将给岗前培训和职业教育带来“变革”,而且Meta“可以两者兼顾”。Meta正在将元宇宙技术作为一种帮助培训员工的工具,以此来重振公众对元宇宙的兴趣...
业界动态 2023-05-17 08:09:29 -
消息称AppleTV+电视剧《人生切割术》第二季已在纽芬兰开始拍摄
IT之家 5 月 16 日消息,根据 CBC 报道,广受好评的 Apple TV+ 电视剧《人生切割术》第 2 季将于本月开始,在博纳维斯塔(Bonavista)、基尔斯(Keels)和尤宁港(Port Union)等加拿大纽芬兰地区投入拍摄。报道称尽管电视剧摄制组努力保持低调,但当地不少居民都在谈论这件事情,并引发了不小的骚动...
智能设备 2023-05-16 10:09:38 -
火腿肠回来了!HTC将发新款"旗舰"手机:配置感人,外观惊艳!
提起全球手机王者,在安卓手机和苹果手机普及之前,诺基亚是当之无愧的第一。而在安卓手机初期,来自宝岛的HTC则异军突起,不仅带来了全球首款安卓手机G1,后续更是推出了多款搭载安卓系统的经典机型并迅速问鼎全球第一的位置。在HTC的巅峰时期华为、小米、OPPO和vivo都还没开始做智能机,HTC凭借自己的敏锐嗅觉,赶了个早集,成为第一个吃螃蟹的人,它的智能机成为了热销产品。2011年HTC占全球手机市场的份额高达9.1%市值攀升至335亿美元,超过上世纪手机巨头诺基亚,仅次于苹果,一跃成为安卓手机品牌霸主,那是HTC最风光的时候。然而随着三星,和华为、小米、OPPO和vivo等一众国产手机品牌强势崛起,HTC由于市场运营和定位问题导致其逐渐没落,最终淡出手机圈但那些年HTC积累下来的忠实粉丝还是非常多,现在他们也许都在用着其它品牌的手机,但还是不时怀念着心中的那个"火腿肠"。这些年HTC虽然也零星发布新机,但基本都是一些中低端手机令人没想到的是,在月初HTC竟然开始预热新机,而且还是曾经自己的旗舰U系列新机!而近日HTC正式宣布将在5月18日发布新机U23 Pro。目前该机谍照已曝光,采用120Hz AMOLED屏,骁龙7 Gen1芯片,后置一亿主摄相机,4600毫安电池,运行安卓13系统这样的配置小智怎么看也算不上旗舰,只能说勉强算个中端机型吧。尤其是处理器,还采用上一代拉跨的骁龙7 Gen1而不是最新的骁龙7 Gen2我是没看懂的。看来HTC还是老样子,严重和主流市场脱节但该机的外观却让我感到眼前一亮,其背面采用了类似银色金属磨砂质感的材质,配合中间HTC的Logo,很有以前经典机型M8的那个感觉。另外该机还将集成HTC主打的区块链和Viverse VR平台,具体玩法会在新品发布会上揭晓,希望定价不要太贵,应该能吸引一些老肠粉吧。 ...
手机互联 2023-05-16 07:10:17 -
Google新发布的Pixel7A把“MadeinVietnam”印在了后盖上?
有网友发现 Google 新发布的 Pixel 7A已经把“Made in Vietnam ”骄傲地印在了后盖上,而旁边的 7 和 7 pro 没有印任何制造国信息。供应链“去中国化”可能已经被某些人当作营销来做了,因为有人明确表示不想要中国制造的产品...
手机互联 2023-05-14 23:41:47 -
Meta宣布测试生成式AI广告工具
5月12日消息,当地时间周四,社交媒体Facebook母公司Meta宣布,开始测试基于生成式人工智能的广告工具。据悉,这些新的广告工具可以创建图像背景和变形文字等内容...
互联网 2023-05-12 07:52:36 -
特斯拉发布FSDBetaV11.4.1版本更新,具有重大架构改进
IT之家5月11日消息,特斯拉面向北美用户推送了FSDBetaV11.4.1版本更新,此次V11.4.1版本进行了重大架构改进。据马斯克所言,这一版本理论上可以作为FSDV12.0发布,但真正的V12版本号需要为完全端到端AI版本保留...
智能设备 2023-05-11 11:10:25