热门搜索
-
谷歌PaLM2训练所用文本数据量是初代的近5倍
5月17日消息，谷歌上周在2023年I/O开发者大会上推出最新大型语言模型PaLM 2。公司内部文件显示，自2022年起训练新模型所使用的文本数据量几乎是前一代的5倍。据悉，谷歌最新发布的PaLM 2能够执行更高级的编程、运算和创意写作任务。内部文件透露，用于训练PaLM 2的token数量有3.6万亿个。所谓的token就是字符串，人们会将训练模型所用文本中的句子、段落进行切分，其中的每个字符串通常被称为token。这是训练大型语言模型的重要组成部分，能教会模型预测序列中接下来会出现哪个单词。谷歌于2022年发布的上一代大型语言模型PaLM在训练中使用了7800亿个token。尽管谷歌一直热衷于展示其在人工智能技术领域的实力，说明如何将人工智能嵌入到搜索引擎、电子邮件、文字处理和电子表格中，但一直不愿公布训练数据的规模或其他细节。微软支持的OpenAI也对最新发布的GPT-4大型语言模型细节保密。两家公司都表示，不披露这些信息的原因是人工智能行业存在激烈竞争。谷歌和OpenAI都想要吸引那些希望使用聊天机器人而不是传统搜索引擎搜索信息的用户。但随着人工智能领域竞争的白热化，研究界要求提高透明度。自推出PaLM 2以来，谷歌一直表示，新模型比之前的大型语言模型更小，这意味着该公司技术在完成更复杂任务时能变得更高效。参数（parameters）通常用于说明语言模型的复杂性。根据内部文件，PaLM 2接受了3400亿个参数的训练，初代的PaLM接受了5400亿个参数的训练。谷歌没有立即发表评论。谷歌在一篇关于PaLM 2的博客文章中表示，新模型使用了一种名为“计算最优缩放”（compute-optimal scaling）的“新技术”，能使得PaLM 2“更高效，整体性能更好，比如推理更快、服务参数更少，服务成本也更低。”在发布PaLM 2时，谷歌透露新模型接受了100种语言的训练，并能胜任各种各样的任务。包括谷歌试验性聊天机器人Bard在内的25项功能和产品用的都是PaLM 2。PaLM 2按参数规模有四个不同的版本，从小到大依次是Gecko（壁虎）、Otter（水獭）、Bison（野牛）和Unicorn（独角兽）。根据谷歌公开披露的信息，PaLM 2比任何现有模型都更强大。Facebook在今年2月份宣布推出名为LLaMA的大型语言模型，其在训练中用了1...
业界动态 2023-05-17 13:33:30 -
无法通用！曝苹果新品TypeC接口已加密安卓所用不匹配
【手机中国新闻】去年10月24日，欧洲理事会批准，自2024年起各类在欧盟范围内销售的手机、平板、数码相机等电子设备必须统一使用Type-C充电接口。这一条例的颁布，意味着手机接口统一的时代将正式来临...
手机互联 2023-02-10 10:27:33 -
SQLServer中查看SQL句子执行所用的时间
复制代码代码如下:setstatisticsprofileonsetstatisticsioonsetstatisticstimeongo你执行的SQL语句复制代码代码如下:gosetstatisticsprofileoffsetstatisticsiooffsetstatisticstimeoff执行完后点消息即可。...
数据库操作教程 2022-09-23 16:41:32 -
iPhoneSE5G可能推迟：所用LCD屏刚刚开始生产
近段时间，关于苹果新机iPhone SE 5G的消息越来越多。此前有说法称，在今年的春季新品发布会上我们将见到这部手机，但从最新情况来看，可能要推迟了...
手机互联 2022-01-24 00:41:13 -
国际象棋大师比赛休息时在厕所用手机作弊，被禁赛
站搜网7月14日消息 据海外网报道，58岁的国际象棋大师伊格尔（Igors Rausis）被发现联赛期间在卫生间作弊，之后被禁赛。报道称，一张曝光的照片显示，在法国进行的国际象棋联赛中，伊格尔在休息期间被发现坐在马桶上看手机...
业界动态 2019-07-17 12:03:10 -
正在阅读：外媒：今秋新iPhone所用A13处理器由台积电独家代工外媒：今秋新iPhone所用A13处理器由台积电独家代工
【AdminSo资讯】2月11日消息，按照惯例，在去年秋天推出iPhoneXS等三款iPhone之后，苹果今年秋天还会推出多款新iPhone，国外媒体在近日的报道中表示，今秋新iPhone所搭载的A13处理器，仍将由台积电独家代工。外媒：今秋新iPhone所用A13处理器仍由台积电独家代工 A系列处理器是苹果iOS设备独家使用的处理器，苹果去年推出的iPhoneXS等三款新iPhone，采用的都是A12处理器，按以往的命名，今秋新iPhone所采用的就将是新设计的A13处理器...
ios苹果之家 2019-02-14 01:39:06 -
挑落神将为你所用《三国群英传-争霸》神将图攻略
神将图一开，顺我者昌逆我者亡！各位《三国群英传-争霸》手游的主公们，三国诸神将已在帐前听候您的指令！作为新版本中每天必刷的副本，神将图玩法是根据激活神将的组合，来提高全体战力，让您在三国战场纵横捭阖时有如神助。话不多说，下面就跟着小编一起来挑落神将为各位主公所用！ 【神将挑战】 各位主公点开左边的神将挑战，就能看到随机出现的神将灵签，解锁灵签上会显示出带框红字提示，提示“急需”说明有了这个神将灵签就可以直接解锁对应神将图...
游戏攻略 2017-03-10 11:55:24 -
要求公开请黑客解锁iPhone所用花费 美联社再状告FBI
时隔一年，美联社又告FBI了。9月16日，包括美联社在内的三家美国新闻媒体联合起诉了美国联邦调查局（FBI），要求其公布去年圣伯纳迪诺枪击案的调查结果，包括政府最终向谁购买了破解枪手iPhone的技术，以及所花费用等信息...
业界动态 2016-09-19 23:00:16 -
苹果第二代手表所用电池曝光 容量提升35%
站长搜索讯 据外媒报道，转眼间8月就要结束了，苹果的新品发布会脚步也越来越近。今天，一张号称是Apple Watch 2代电池的谍照现于网络，这块电池容量达到了334毫安，比上代产品的电池容量有了明显的提升...
业界动态 2016-08-29 11:10:05 -
Win10 14328开始菜单中点击“所用应用”出现空白怎么办
现在，微软已经向我们推送了Win10一周年更新预览版14328。此次更新修复了不少问题，但是用户在开始菜单中点击“所用应用”时，仍会遇到一片空白，这该怎么办呢？下面，就随小编看看Win10 14328开始菜单中点击“所用应用”出现空白的解决方案...
win10 2016-04-25 15:30:29 -
外卖环境成本:每天所用塑料袋可覆盖59个足球场?
（原标题：中新网揭外卖环境成本：每天所用塑料袋可覆盖59个足球场） 塑料或发泡餐盒、塑料袋、一次性筷子等，构成了外卖垃圾的主要部分。东方IC 资料李金磊/中新网中新网北京4月19日消息，如今，在线外卖市场越来越火爆，在庞大的订单量背后，是不容忽视的资源浪费和环境污染问题...
互联网 2016-04-19 16:20:11 -
央行叫停“芝麻分”？关键是征信该为何所用
民营征信机构牌照即将下发之际，一则关于征信业务场景运用违规的报道震惊业内。9月24日有媒体曝出，央行对芝麻信用在多个应用场景的“芝麻信用分”营销活动进行窗口指导，包括叫停其与首都机场快速通道的合作...
业界动态 2015-09-25 13:24:06
