-
小扎豪赌大模型！Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑：拉燕 Aeneas【新智元导读】全世界都在卷大模型，小扎也急了。如今，Meta为了发展AI，在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了！本周四，Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说，MTIA对Meta是一个巨大的福音，尤其是现在各家都在卷大模型，对AI算力的需求变得越来越高。小扎最近表示，Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然，随着Meta加大对AI的投入，MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具，现在没有哪家巨头不在AI上投入大量资源。可以看到，凭着定制芯片和超算，Meta在AI上下了大赌注。MTIA在最近的一次线上活动中，Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器，简称MTIA。MTIA是一种ASIC，一种将不同电路组合在一块板上的芯片，允许对其进行编程，以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道，MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」，它提供了比CPU「更高的计算能力和效率」，并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU，Janardhan 表示，Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说，这是Meta实力的投射。其实，一直以来，Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对（如微软、谷歌等）保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示，构建属于自己的硬件，Meta就有能力控制堆栈的每一层，包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里，Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产，尤其是生成式AI。一直到2022年，Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片，转而订购了价值数十亿美元的英伟达GPU。引入这些GPU，Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面，Meta计划开发一款内部芯片，预计于2025年推出。这款内部芯片既能训练AI模型，还能运行AI模型，可谓性能强大。主角终于来了——新芯片名叫MITA，全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示，MTIA是一种ASIC，指的是一种在一块板上组合不同电路的芯片。通过编程，该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道，科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU，用来训练Palm-2和Imagen。亚马逊也有自己的芯片，用于训练AI模型。此外，有消息称微软也在和AMD开发一款叫Athena的芯片。这不，MITA的到来也是Meta不甘示弱的表现。Meta表示，2020年他们创建了第一代的MITA——MITA v1，采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB，同时，在Meta设计的基准测试中，MITA在处理中低复杂度的AI模型时，效率要比GPU还高。在芯片的内存和网络部分，还有不少工作要做。随着AI模型的规模越来越大，MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此，Meta表示，会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年，Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分，包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造，运行频率为800 MHz，在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
消息称索尼正开发小尺寸折叠屏手机，拟复活Compact系列
IT之家 5 月 20 日消息，据日媒 sumahodigest 报道，索尼打算推出小尺寸折叠屏手机，或将归于 Compact 系列。IT之家查询获悉，索尼自 2018 年的Xperia XZ2 Compact 之后，就没有再推出主打小尺寸旗舰的 Compact 系列...
手机互联 2023-05-20 23:59:13 -
富士康首次失去iPhone16ProMax订单，Luxshare将获得苹果2024年顶级旗舰的独家订单
富士康通常负责为苹果组装“Pro”机型，根据早些时候的一份报告，这些计划在iPhone 15 Pro和iPhone 15 Pro Max上保持不变。然而，据说从2024年开始，苹果的主要合作伙伴将失去iPhone 16 Pro Max的独家经营权，所有订单都将提供给Luxshare...
手机互联 2023-05-20 23:59:06 -
Meta旗下Instagram准备在夏季推出与推特竞争的新产品
钛媒体App 5月20日消息，Instagram正计划推出一款基于文本的应用，将与推特展开竞争。根据知情人士透露，该公司目前正在与知名人士和网红合作，对该项目进行测试...
智能设备 2023-05-20 11:25:25 -
公布全新定制芯片，Meta豪赌AI，更新基础设施花费创纪录
5月19日消息，过去一年，社交媒体巨头Meta致力于削减成本和裁员，但更新基础设施的花费却创下了纪录，这是为了在AI竞赛中保持领先地位。当地时间周四，Meta发布了一系列新技术，这包括一种新的定制芯片，能够帮助更快地训练AI，以及一款编程工具，可为程序员提供开发产品的建议。此外，该公司还在改造其旗下数据中心，以便更轻松地部署AI技术。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）在一份电子邮件声明中说："这项工作反映了我们长期的努力，将使我们在各个领域中能够更好地利用这项技术，并取得更多的进步。”为了加速Facebook和Instagram上的推荐算法，Meta正在开发一款定制加速器芯片。此外，该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示，他们已完成AI超级计算机的第二阶段建设，用于训练类似ChatGPT的大语言模型。去年，Meta的资本支出创下了历史新高，达到了314亿美元，比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”，分析人士估计，Meta今年的投资水平将与2022年相当，其中很多资金将用于改进和扩大AI基础设施。Meta AI研究主管金·哈泽尔伍德（Kim Hazelwood）表示：“虽然我们在提高效率方面遇到了一些困难，但这并不意味着在投资AI和提升效率之间存在直接的竞争。”一些AI更新显然提高了Meta的内部效率，这导致公司在最近几个月内裁掉了数千名员工。CodeCompose是一款基于生成式AI的新型开发工具，可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示，目前已有5200名内部程序员在使用CodeCompose，其中AI提出的编写代码建议中有22%被采纳。Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策，很多广告商的数字广告精确定位目标用户更加困难，Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争，Facebook和Instagram也开始展示用户并不关注的账户内容，这需要一种算法来猜测用户可能对什么感兴趣。市场研究公司CFRA Research分析师安吉洛·齐诺（Angelo Zino）在接受采访时表示，投资者将会寻求直接的证据来证明这些改进，以证明大笔支出是合理的。“很明显，这些事情需要一些时间，不可能一蹴而就，” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核，确保能够加速实现收入方面的一些回报。”当我们询问AI模型时，它们会做出回答，这个过程就是所谓的推理，这需要特定类型的运算过程。Meta决定开发新的芯片MTIA（Meta Training and Inference Accelerator，意思是Meta训练和推理加速器），帮助完成内部特定的工作，补充英伟达GPU的数量不足（即使已大量采购）。Meta希望MTIA芯片能提升能力，为用户预测更准确、更有趣的原创和广告内容类型，从而让人们花更多时间使用应用程序并点击更多广告。该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频，这款新型处理器都可以帮助用户更快地显示这些视频，并且需要更少的流量。Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示：“我们成功地对第一批芯片进行了优化、平衡和精准调整，以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求，这些信息都尽在掌握。”Meta社交媒体app使用的推荐引擎基于当前的AI技术，但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。周四，Meta宣布已完成第二阶段的建设，训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用，但部分成果是开源的。和LLaMA模型一样，由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外，新推理芯片将有助于Meta继续支持PyTorch，这是其创建的开源AI框架，并已转移到Linux基金会，以增加其独立性。尽管Meta多年来一直致力于开发AI工具，但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示，这种转变受到了投资者的严厉审视，因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。凯斯勒表示，当行业竞相将AI融入业务之时，“他们不想输在起跑线上，”他说：“相比六到九个月前，现在更多人相信这种说法了。”（辰辰） ...
业界动态 2023-05-19 17:20:48 -
英伟达发布GeForceRTX4060/4060Ti：起售价分别为人民币2399元/3199元
英伟达宣布，推出基于Ada Lovelace架构的新一代主流GPU，包括GeForce RTX 4060、RTX 4060 Ti 8GB和RTX 4060 Ti 16GB三款，对应的官方建议零售价分别为299美元/人民币2399元、399美元/人民币3199元和499美元/人民币3899元。其中GeForce RTX 4060 Ti 8GB将于2023年5月23日晚上解禁，并在5月24日21点正式发售，而剩下两款显卡要等到7月份。值得一提的是，GeForce RTX 4060 Ti 8GB会有Founder Edition，也就是公版显卡，由京东商城独家发售。GeForce RTX 4060 Ti搭载了AD106-350（8GB）/351（16GB）GPU，采用PCIe 4.0 x8接口，完整版本芯片拥有36组SM、4608个CUDA核心、36个RT核心和144个Tenor核心，不过RTX 4060 Ti只开启了其中34组SM，也就是4352个CUDA核心、34个RT核心和136个Tensor核心。此外，还带有一个第8代NVENC编码器和一个第5代NVDEC解码器，支持AV1硬件编解码。GeForce RTX 4060 Ti的基础频率为2310 MHz，加速频率为2535 MHz，搭配8GB或16GB的GDDR6显存，显存位宽为128-bit，显存速率为18Gbps频率，显存带宽为288 GB/s，整卡功耗为160W。英伟达表示，通过32MB的L2缓存，显存等效带宽增大至554 GB/s。GeForce RTX 4060搭载了AD107-400 GPU，采用PCIe 4...
智能设备 2023-05-19 11:51:46 -
郭明錤：立讯精密已取得苹果iPhone16ProMax的NPI
IT之家 5 月 18 日消息，知名苹果分析师郭明錤预期苹果将协助立讯精密在印度设立产线，立讯精密有望在未来数年内受益于印度市场与供应链的成长。他指出：立讯精密已取得 2024 年最高端阶 iPhone 16 机型(Pro Max) 的 NPI...
手机互联 2023-05-19 08:56:13 -
淘天集团CEO戴珊：将“持续大力投入”，获取用户持续增长
5月18日晚消息，阿里巴巴集团发布2023财年第四季度业绩。在财报分析师电话会上，淘天集团CEO戴珊表示，淘天集团将以3年为一个经营周期，围绕用户为先、生态繁荣、科技驱动三大战略进行坚定且持续的大力度投入，获取用户的持续增长...
互联网 2023-05-18 21:00:34 -
阿里国际数字商业集团CEO蒋凡：国际业务展现快速增长势头
5月18日消息，蒋凡以阿里国际数字商业集团（AIDC）CEO的身份出席阿里集团财报分析师会议。他表示，本季度，国际业务展现了快速的增长势头，增长主要驱动力来自于业务规模的扩大和商业化率的提升...
互联网 2023-05-18 20:40:18 -
自动写代码？GoogleColab叫板githubcopilot
【网易科技5月18日报道】近日，谷歌宣布了Google Colaboratory（Colab）将加入全新的AI编码功能。据了解，该功能由全新的「文生代码」模型Codey提供支持，支持20多种编码语言，包括Go、谷歌标准SQL、Java、Javascript、Python和Typescript等...
智能设备 2023-05-18 14:56:18 -
利润成倍增长后，Tether决定拿出15%增持比特币作为储备资产
界面新闻记者｜司马林威5月17日，全球最大的美元稳定币发行商Tether宣布，将从本月开始使用部分利润定期购买比特币 ( BTC ) 作为其稳定币储备，将分配高达约15%的已实现投资利润（不包括其储备资产的任何未实现价格增值）来购买比特币，并将这些代币添加到其储备盈余中。Tether的首席技术官保罗·阿多伊诺 (Paolo Ardoino) 表示：“比特币不断证明其韧性，并已成为具有巨大增长潜力的长期价值储存手段。其有限的供应、分散的性质和广泛的采用使比特币成为机构和散户投资者的首选。”加密稳定币现在是一个市值1310亿美元的资产类别，已成为加密货币基础设施的重要组成部分，通过将其价格锚定在法定货币（通常是美元）上，它充当着法定货币和加密货币之间的交易媒介。而Tether公司发行的USDT目前是为全球最大的美元稳定币，市值约820亿美元。根据其规定，每一枚USDT都将锚定一美元市值。本月初，Tether公司发布了一份与公共会计师事务所BDO Italia审计后的财务报告，报告显示其第一财季净利润为15亿美元，是上一财季的两倍多。其在第一财季结束时的合并总资产为820亿美元，高于2022年底的670亿美元。截至3月底，Tether持有超过690亿美元的现金和现金等价物，其中530亿美元为短期美国国债。在2022年底，Tether持有550亿美元的现金和现金等价物，其中390亿美元为短期国债。Tether目前还持有价值15亿美元的比特币和价值34亿美元的黄金。同时，该公司强调自己的超额储备创造了历史峰值，截至2023年5月9日，该公司管理层声明集团综合总资产至少达818亿美元，综合负债总额为793亿美元，这些负债主要源自其发行的加密稳定币。Tether的超额储备在一季度创造了24.4亿美元的历史新高。Tether的报告是由BDO Italia会计师事务所进行的最新认证的一部分。与全面审计不同，认证只记录公司在某个时间点的财务状况。但该公司最近受到指控，称其准备金索赔“可疑”。前美国证券交易委员会前执法律师约翰·里德·斯塔克 (John Reed Stark) 辩称，该公司定期未经审计的证明“毫无意义”。《华尔街日报》3月份报道称，Tether的公司使用了虚假文件和空壳公司，但Tether称这一指控“完全不准确且具有误导性”。和另一家在美国银行业危机遭遇动荡的稳定币发行商Circle不一样，多年来，Tether因其储备缺乏透明度和有争议的投资决策而在加密行业受到批评。不过，美国区域银行业危机打击了Circle发行的第二大美元稳定币USDC。硅谷银行 (SVB) 的突然倒闭导致USDC的部分现金储备冻结在银行，使得这种稳定币暂时失去了与美元挂钩的能力。而另一家竞争对手，发行了第三大美元稳定币BUSD的Paxos，在美国监管压力下已经放弃了这一业务，因此Tether发行的USDT成为了近期加密稳定币需求的首选。截至发稿前，比特币最新报价为27332美元，24小时涨幅0...
区块链 2023-05-18 11:33:44 -
AI最令人担心的地方是什么？这是微软CEO的回答
微软首席执行官纳德拉周二在接受媒体采访时，谈到了他对人工智能的担忧，以及人工智能对就业、教育的影响。纳德拉表示，人工智能最让他害怕的地方是，整个社会必须团结起来，以最大限度地利用该技术的机会并减轻其危险。“我们绝对想要这项技术的好处，我们也希望减轻意想不到的后果。所需要的领导力和所有各方的齐心协力具有挑战性，但这必须完成。”纳德拉指出，人工智能的发展正在迅速发生，但人仍然是这一过程中不可或缺的一部分。“如果说我有什么感觉的话，那就是，它正在快速前进，朝着正确的方向快速前进。人类处于循环之中，而不是处于循环之外。这是一种设计选择。”纳德拉表示，每当出现一种新的颠覆性技术时，就业市场就会出现真正的替代。但他认为，人工智能也会创造新的就业机会。“我的意思是，可以有十亿个开发人员。事实上，世界需要十亿个开发人员。因此，这实际上是一种民主化工具，可以更轻松地获取新技术和新知识，从而更容易提升学习曲线。”对于如何影响就业市场，纳德拉与ChatGPT之父、OpenAI的掌门人Sam Altman看法类似。Altman认为，AI可能导致一些失业，但会创造更多新工作。他对AI未来改变就业的前景整体感到乐观，同时指出需要AI行业和政府合作。纳德拉补充说，更容易获得知识，也会影响教育。孩子们最终可以接触到“人工智能导师”，导师可以分解信息，并消除学习恐惧。他说，批判性思维在很大程度上仍将是人类去做的，但有机会利用新工具。当前，不少科技公司高管和风险资本家将ChatGPT的推出比做iPhone时刻。纳德拉也回顾了乔布斯的名言，他说，“乔布斯有一句非常棒的台词，就是计算机就像大脑的自行车。我们现在有了升级版，我们有了一台大脑的蒸汽机。”自OpenAI公司旗下的聊天机器人ChatGPT火爆以来，立法者、思想领袖和开发人员们一直在思考如何规范新兴的生成式AI技术。周二，Altman首次在国会作证时，呼吁国会对AI系统采取安全标准。他认为，政府可以将发放牌照和测试的要求结合起来，监管开发AI模型的公司。伴随着ChatGPT等AI产品的火爆，人们对于AI的谨慎和抵制情绪有所增长。今年3月，OpenAI曾经的的联合创始人和天使投资人之一马斯克签署了一份公开信，呼吁暂缓GPT-4以上的大模型研发，并完善AI领域的安全机制。他近日再次表示，OpenAI现在已经被微软控制了，而且不够重视AI研发的安全性。与此同时，认为AI技术将具有颠覆性和改变游戏规则的想法也很盛行。比尔盖茨在今年2月份时表示，人工智能“将改变我们的世界”。马斯克本人也于4月份注册了一家名为X.AI的公司，打算直接和OpenAI竞争。华尔街也高度看好AI的未来，多位大佬力挺AI发展。近日，在英伟达、微软、谷歌母公司Alphabet等AI概念科技股的提振下，纳指100不断创下数个月新高。 ...
智能设备 2023-05-18 10:53:25
