-
三星自家元器件仅占S23UltraBoM的约三分之一
集微网消息,近日市调机构 Counterpoint 公布了三星 Galaxy S23 Ultra 的元器件成本分析,其中高通是三星 Galaxy S23 Ultra 供应商中的最大赢家。三星 Galaxy S23 Ultra 8+256GB 版本(Sub-6GHz)成本约为469美元,其中处理器和蜂窝数据子系统占比最高占到35%,屏幕第二(18%),相机第三(14%)...
手机互联 2023-06-05 00:08:13 -
数学论证GPT-4不是随机鹦鹉:真如此的话整个宇宙都会坍缩
克雷西 发自 凹非寺量子位 | 公众号 QbitAI对于ChatGPT的工作原理,一个常见的解释是根据统计学规律预测下一个词。但最近一位叫Jacob Bayless的工程师用数学方法得出惊人结论:若是如此,所需的信息量足以让整个宇宙都坍塌成黑洞。这一数据量是50000^8000,根据贝肯斯坦上限(Bekenstein bound)原理,如果把这些信息分配到空间当中,所需要的信息密度已经远超宇宙能承受的最大值。而这仅仅是把数据存储起来的消耗,更不必说还要进行运算了。而ChatGPT与单纯统计预测的区别,可以做这样的类比:如果天文学家通过历史观测记录推算出月食的周期,这可以算是统计学。但当他们总结出牛顿万有引力定律的时候,就已经超越了统计学。什么是“随机鹦鹉”一个流传很广的说法,所谓大语言模型实际上相当于一个“随机鹦鹉”——与我们观察其输出时的情况相反,语言模型只是将其在庞大的训练数据中观察到的语素胡乱拼接在一起,根据概率生成文本,但不清楚文字背后的任何含义,就像一个随机的鹦鹉。出自论文On The Dangers of Stochastic Parrots: Can Language Models Be Too Big这对过去的语言模型,或许确实成立。比如曾经流行的n-gram算法。比如当我们在搜索引擎中进行搜索时,出现的联想词就能用此方法实现。具体来说,下面的三行文本中,第一行纯粹是随机生成,第二行考虑了单词在英语中整体的出现概率,第三行则考虑了单词在前一个词后面出现的概率。n = 0: RECEIVE FALL SURPRISED FRIDAY INGREDIENT…n = 1: REPRESENTING AND SPEEDILY IS AN GOOD…n = 2: THE CHARACTER OF THIS POINT IS THEREFORE…不难看出,随着n值的升高,文本越来越接近人类语言。而n-gram模型根本不需要掌握其中的语义或理解其中的抽象概念,就能生成像模像样的句子。据此有人猜想,GPT-4会不会也只是一种高级的n-gram呢?Bayless提出,GPT必须学会抽象才能有如今的效果,至少GPT-4肯定如此。GPT-4不只是“随机鹦鹉”要证明这一点,可以先看下棋机器人的例子。如果有一种下棋机器人,存储了巨量棋谱数据,对于每个棋局都能推荐下一步。那它就能通过“背谱法”模仿其他任何棋手或程序的下法比如Stockfish是最先进的国际象棋程序,如果仅通过对战而不看源码,是无法确定Stockfish是否在背谱。但实际上,包含所有情形和步骤的棋谱数据量可能超过2^154。而Stockfish的程序只占用了不到50MB的空间,根本不可能存下需要的所有棋谱。所以Stockfish肯定是通过更高级的方法来实现下棋的。人类语言的复杂度远超过棋类游戏,因此GPT的数据量更是同理。仅在是上一代的GPT-3的token字典中就有超过5万token。如果对每个词都逐一建立统计信息,n-gram模型中n值将高达8000。届时,需要存储的情景数量将达到50000^8000。正如文章开头所提到,这简直是天文数字,足以让整个宇宙坍缩。因此,GPT是“随机鹦鹉”的猜测在理论上得到了一定程度的批驳。“随机鹦鹉”达不到的高度仅在理论上进行说明是不充分的,因此研究人员还进行了两个实验,意图证明大模型在学习过程中已经抽象出了算法。第一个实验关于一道经典的农夫过河问题。一个农夫有一条船,和狼、羊、菜,农夫要把这3样东西运到河到另一边,农夫每次最多只能通过这个船运一样东西,要防止狼吃羊、羊吃白菜(即不能在没有农夫在的情况下同时在同一岸边),该怎么过?研究人员将这个问题中的农夫、船、河分别替换成地球人、虫洞和银河系。狼、羊和菜则分别换成火星人、金星人和月球人。替换的目的是因为互联网上不太可能出现类似语料,可以判断大语言模型是不是真的掌握了通用方法。如果GPT不是“随机鹦鹉”,那么它至少不会犯下只有“随机鹦鹉”才会犯的错误。GPT-4针对替换后的问题给出了正确的回答,GPT-3.5则没有。但它们并没有犯研究人员预想的“鹦鹉”错误——即在回答中出现狼、船、河等已被替换掉的词语。回答中使用的句子,也无法在互联网中被检索到。这些现象都证明了现在的大语言模型的生成方式已经超越了“概率预测”。第二个实验则是数字排序。如果让GPT学习数字排序,它们究竟是只会记住给出过的数字顺序,还是真的研究出排序算法呢?其实只要从GPT的输出当中就可以看出来了。假如从1-100中随机选择10个数字,并将其顺序打乱,将一共有这么多种情形:如果再考虑数字的重复出现,又或者数字的数量发生变化,根本不可能存储如此之多的情形。因此,只要GPT能够针对未知的排序问题给出正确的回答,便可以说明它们是真的研究出了排序算法。研究人员训练了一款特斯拉前AI总监Andrej Kaparthy发明的语言模型nanoGPT,专门让它做数字排序。结果显示,随着训练步数的增加,模型给出的数字顺序越来越完美。虽然在训练步数达到16万左右时突然出现了大量错误,但也很快得到了纠正。这说明这款模型并不是仅仅根据学习的素材对未知的数字进行排序,而是已经掌握了背后的方法。这个测试只是在一台笔记本电脑、算力非常有限的GPU上进行的。更不必说GPT-4了。参考链接:https://jbconsulting...
智能设备 2023-05-27 16:02:19 -
索尼展示多款游戏,预告片播放量显示《马拉松》最受玩家期待
IT之家 5 月 27 日消息,索尼于 5 月 24 日举办了 PlayStation Showcase 活动,携手多家工作室,推出了多款游戏,各位IT之家网友,你最期待哪款游戏呢?独立视频游戏分析师 Benji-Sales 追踪游戏预告片上传 24 小时的播放量。这里统计的数据不仅包括索尼 PlayStation 频道和游戏工作室官方频道发布的预告片,还计算了用户“重新上传”的视频播放数量...
手机互联 2023-05-27 15:23:25 -
亚马逊中国回应“关闭应用商店”:不影响任何业务运营
5月24日消息,亚马逊中国对“关闭应用商店”一事做出声明,称停止亚马逊应用商店服务不会影响任何目前亚马逊在中国的业务运营,包括亚马逊海外购,亚马逊全球开店及亚马逊中国官方网站Amazon.cn。以下是亚马逊中国声明全文:亚马逊应用商店是供用户下载用于安卓设备的游戏和移动应用程序的应用商店。停止亚马逊应用商店服务不会影响任何目前亚马逊在中国的业务运营,包括亚马逊海外购,亚马逊全球开店及亚马逊中国官方网站Amazon...
互联网 2023-05-24 10:13:42 -
法国国家信息自由委员会对ChatGPT发起指控
据央视新闻,当地时间4月13日,法国国家信息自由委员会(CNIL)决定对ChatGPT提出5项指控,并展开调查。此外,欧洲数据保护委员会宣布成立专门工作组,以促进该调查在欧洲地区的合作事宜...
智能设备 2023-04-14 10:31:37 -
巴菲特:比特币是“赌博代币”没有任何内在价值
财联社4月12日电,巴菲特表示,比特币是“赌博代币”,没有任何内在价值。财联社声明:文章内容仅供参考,不构成投资建议...
区块链 2023-04-12 21:31:21 -
华为没有任何意愿与新东方材料合资运营TDTECH
4月10日消息,华为官方发布声明称,华为与诺基亚合资运营TDTECH,并且认同诺基亚出售股权,但没有任何意愿及可能与新东方新材料合资运营TDTECH。此前,东方材料在9日晚发布公告称,公司拟向特定对象发行股票募资收购TDTECH51%股权,交易对象为诺基亚,交易对价为21.216亿元...
电信通讯 2023-04-10 07:32:49 -
玩家国度ROGAlly掌机运行WIN11系统,画面优于SteamDeck
玩家国度(ROG)品牌下的新掌机ROGAlly更多配置信息曝光,包括使用1920x1080/120hz的显示屏,比SteamDeck的1280x800更高,以及比后者更小更轻便等。SteamDeck的成功让一些硬件厂商趋之若鹜,似乎忘了NVIDIAShield的前车之鉴...
游戏资讯 2023-04-04 11:37:06 -
玩家将《生化危机4》搬上GBA掌机,还是3D版
每当有大作发布,就有复古重制接踵而至,这次是《生化危机4重制版》,平台为GBA。作者3DSage是GBA掌机的狂热粉丝,他曾将GBA改装成无线手柄,为GBA定制了3D引擎,将《毁灭战士》搬上平台,现在轮到生化4的复古重制...
游戏资讯 2023-04-04 10:56:33 -
任天堂为欧洲玩家提供免费手柄漂移修复还是保外维修
Joy-Con手柄漂移多年来一直是许多NS玩家的痛。近日,欧洲地区任天堂官方Support页面显示,任天堂将为欧洲玩家提供免费的Joy-Con手柄漂移修复服务,即使已超过保修期...
游戏资讯 2023-04-04 10:15:58 -
一只赛博女鬼,正在入侵全世界玩家的电脑
“人类的本质就是一堆电信号”两年前,意气风发的扎克伯格将公司改名为“Meta”,他口中所描绘的元宇宙世界令人无限憧憬;年初爆火的《流浪地球2》所再现的“数字生命”概念,又将我们带入了更深层次的幻想,那个不会生病、变老,理论上永生的数字世界又将是什么模样?这些概念看似离我们的现实生活远之又远,但随着ChatGPT在世界舞台大秀才能,AI绘图在画图领域兴风作浪,数字生命这颗曾经只能在伊甸园外瞻仰的苹果,似乎在未来也有了摘下的可能。而在永生的数字生命还未到来前,我们或许能从9年前的一款Meta恐怖游戏中,短暂窥见数字永生的另一面——寂寥的孤独...
游戏资讯 2023-04-03 16:16:06 -
玩家根据预告视频标出《王国之泪》部分空岛位置
在本周早些时候,任天堂官方公布了《塞尔达传说:王国之泪》的实机演示视频。这一最新的实机演示向玩家们展现了了余料建造、究极手、通天术等全新游戏玩法,还对游戏中的新场景空岛进行了一次探索游览...
游戏资讯 2023-04-03 14:41:21