-
这个比ChatGPT情商还高的AI,我可以和它聊三天三夜
狂拿考试高分让学生瑟瑟发抖,加入联网功能叫传统搜索战战兢兢,升级工作全家桶搞得打工人又悲又喜....
智能设备 2023-05-27 16:02:52 -
GPT-4玩《我的世界》15倍速攀科技,不看画面全靠代码操作
克雷西 发自 凹非寺量子位 | 公众号 QbitAI把GPT-4放进一个虚拟世界会怎么样?比如《我的世界》。英伟达开发最新方法Voyager,在游戏中点亮科技树的速度是此前方法的15.3倍,同时获得的独特物品是此前的3...
智能设备 2023-05-27 16:02:52 -
数学论证GPT-4不是随机鹦鹉:真如此的话整个宇宙都会坍缩
克雷西 发自 凹非寺量子位 | 公众号 QbitAI对于ChatGPT的工作原理,一个常见的解释是根据统计学规律预测下一个词。但最近一位叫Jacob Bayless的工程师用数学方法得出惊人结论:若是如此,所需的信息量足以让整个宇宙都坍塌成黑洞。这一数据量是50000^8000,根据贝肯斯坦上限(Bekenstein bound)原理,如果把这些信息分配到空间当中,所需要的信息密度已经远超宇宙能承受的最大值。而这仅仅是把数据存储起来的消耗,更不必说还要进行运算了。而ChatGPT与单纯统计预测的区别,可以做这样的类比:如果天文学家通过历史观测记录推算出月食的周期,这可以算是统计学。但当他们总结出牛顿万有引力定律的时候,就已经超越了统计学。什么是“随机鹦鹉”一个流传很广的说法,所谓大语言模型实际上相当于一个“随机鹦鹉”——与我们观察其输出时的情况相反,语言模型只是将其在庞大的训练数据中观察到的语素胡乱拼接在一起,根据概率生成文本,但不清楚文字背后的任何含义,就像一个随机的鹦鹉。出自论文On The Dangers of Stochastic Parrots: Can Language Models Be Too Big这对过去的语言模型,或许确实成立。比如曾经流行的n-gram算法。比如当我们在搜索引擎中进行搜索时,出现的联想词就能用此方法实现。具体来说,下面的三行文本中,第一行纯粹是随机生成,第二行考虑了单词在英语中整体的出现概率,第三行则考虑了单词在前一个词后面出现的概率。n = 0: RECEIVE FALL SURPRISED FRIDAY INGREDIENT…n = 1: REPRESENTING AND SPEEDILY IS AN GOOD…n = 2: THE CHARACTER OF THIS POINT IS THEREFORE…不难看出,随着n值的升高,文本越来越接近人类语言。而n-gram模型根本不需要掌握其中的语义或理解其中的抽象概念,就能生成像模像样的句子。据此有人猜想,GPT-4会不会也只是一种高级的n-gram呢?Bayless提出,GPT必须学会抽象才能有如今的效果,至少GPT-4肯定如此。GPT-4不只是“随机鹦鹉”要证明这一点,可以先看下棋机器人的例子。如果有一种下棋机器人,存储了巨量棋谱数据,对于每个棋局都能推荐下一步。那它就能通过“背谱法”模仿其他任何棋手或程序的下法比如Stockfish是最先进的国际象棋程序,如果仅通过对战而不看源码,是无法确定Stockfish是否在背谱。但实际上,包含所有情形和步骤的棋谱数据量可能超过2^154。而Stockfish的程序只占用了不到50MB的空间,根本不可能存下需要的所有棋谱。所以Stockfish肯定是通过更高级的方法来实现下棋的。人类语言的复杂度远超过棋类游戏,因此GPT的数据量更是同理。仅在是上一代的GPT-3的token字典中就有超过5万token。如果对每个词都逐一建立统计信息,n-gram模型中n值将高达8000。届时,需要存储的情景数量将达到50000^8000。正如文章开头所提到,这简直是天文数字,足以让整个宇宙坍缩。因此,GPT是“随机鹦鹉”的猜测在理论上得到了一定程度的批驳。“随机鹦鹉”达不到的高度仅在理论上进行说明是不充分的,因此研究人员还进行了两个实验,意图证明大模型在学习过程中已经抽象出了算法。第一个实验关于一道经典的农夫过河问题。一个农夫有一条船,和狼、羊、菜,农夫要把这3样东西运到河到另一边,农夫每次最多只能通过这个船运一样东西,要防止狼吃羊、羊吃白菜(即不能在没有农夫在的情况下同时在同一岸边),该怎么过?研究人员将这个问题中的农夫、船、河分别替换成地球人、虫洞和银河系。狼、羊和菜则分别换成火星人、金星人和月球人。替换的目的是因为互联网上不太可能出现类似语料,可以判断大语言模型是不是真的掌握了通用方法。如果GPT不是“随机鹦鹉”,那么它至少不会犯下只有“随机鹦鹉”才会犯的错误。GPT-4针对替换后的问题给出了正确的回答,GPT-3.5则没有。但它们并没有犯研究人员预想的“鹦鹉”错误——即在回答中出现狼、船、河等已被替换掉的词语。回答中使用的句子,也无法在互联网中被检索到。这些现象都证明了现在的大语言模型的生成方式已经超越了“概率预测”。第二个实验则是数字排序。如果让GPT学习数字排序,它们究竟是只会记住给出过的数字顺序,还是真的研究出排序算法呢?其实只要从GPT的输出当中就可以看出来了。假如从1-100中随机选择10个数字,并将其顺序打乱,将一共有这么多种情形:如果再考虑数字的重复出现,又或者数字的数量发生变化,根本不可能存储如此之多的情形。因此,只要GPT能够针对未知的排序问题给出正确的回答,便可以说明它们是真的研究出了排序算法。研究人员训练了一款特斯拉前AI总监Andrej Kaparthy发明的语言模型nanoGPT,专门让它做数字排序。结果显示,随着训练步数的增加,模型给出的数字顺序越来越完美。虽然在训练步数达到16万左右时突然出现了大量错误,但也很快得到了纠正。这说明这款模型并不是仅仅根据学习的素材对未知的数字进行排序,而是已经掌握了背后的方法。这个测试只是在一台笔记本电脑、算力非常有限的GPU上进行的。更不必说GPT-4了。参考链接:https://jbconsulting...
智能设备 2023-05-27 16:02:19 -
阿里达摩院:GPT-4替代年薪60万数据分析师只要几千块,论文已发
梦晨 发自 凹非寺量子位 | 公众号 QbitAIGPT-4替代初级数据分析师的成本只有0.71%,换成高级数据分析师则是0...
智能设备 2023-05-27 16:02:14 -
AMDRX7600公版显卡不兼容部分6+2针电源线
IT之家 5 月 27 日消息,根据国外科技媒体 TechPowerUp 和 Igor's Labs 报道,AMD 的公版 RX 7600 显卡并不兼容某些 6+2 针电源线。IT之家注:RX 7600 的整卡功耗为 165W,通过 1 个 8 针接口供电...
手机互联 2023-05-27 15:23:20 -
京东618预售战报:人均购买预售商品数量同比增长超30%
5月26日消息,京东618预售战报显示,2023年5月23日晚8点预售开启,截至5月25日24点,人均购买预售商品数量同比增长超30%,县域及农村市场预售订单金额同比增长超40%。参与预售的消费者中,90后是主力人群,占比近70%,银发族参与人数增长最高...
互联网 2023-05-26 20:53:17 -
已在40多个国家和地区上线,OpenAI在更多市场推出官方版ChatGPT
IT之家 5 月 26 日消息,OpenAI 宣布已经在 40 多个国家和地区,推出了适用于 iPhone 和 iPad 的官方 ChatGPT 应用程序。官方版 ChatGPT 于上周率先在美国市场推出,OpenAI 承诺未来几周内会继续扩展到更多国家和地区...
智能设备 2023-05-26 11:18:38 -
Mudra表带开启预订,一个响指手势搞定AppleWatch交互
IT之家 5 月 26 日消息,Wearable Devices Ltd.(WLDS)今天宣布,适用于 Apple Watch 的 Mudra 表带开启预订,售价 249 美元,限时优惠售价为 199 美元(IT之家备注:当前约 1409 元人民币)。这款 Mudra 表带最大的亮点在于满足生活场景中,不利于双手操作 Apple Watch 的情况下,通过一个响指手势,实现切换曲目、调整音量、接听来电、关闭闹钟、拍照等各种操作。其工作原理是获得专利的 SNC(表面神经传导)传感器,通过将皮肤表面的离子电活动转换为电压(离子交换)来感知手腕发出的生物电势。当移动手指时,Mudra Band 中的电极会捕捉到从你的大脑发出的神经信号,通过手腕传给你的手指。实时准确地通过 SNC 传感器捕捉神经信号,以及深度学习 AI 算法破译信号模式,对正在移动的手指进行分类。 ...
智能设备 2023-05-26 11:18:31 -
5G网速起飞!小米13Ultra双卡上网来了:下载速度猛增30%
快科技5月25日消息,MIUI官方今日宣布,小米13 Ultra上线"双卡并发""双卡竞速"功能,网速直接起飞。由于Android现有框架并不支持双卡同时上网,为实现这一功能,小米直接对Android的通信框架进行改造,加入了整套双链路的创建、释放、消息通知等架构改造,实现双卡同时上网...
手机互联 2023-05-25 23:49:47 -
三星提醒GalaxyNote手机用户可选择升级S23Ultra
IT之家 5 月 25 日消息,三星此前已经取消了 Galaxy Note 系列手机,今年 2 月推出的 Galaxy S23 Ultra 有着 Galaxy Note 系列的影子。三星现在通过一篇博客提醒 Galaxy Note 用户可升级到 Galaxy S23 Ultra,并承认最新的 Ultra 型号本质上是 Galaxy Note 系列的“精神继承者”...
智能设备 2023-05-25 11:03:17 -
研究揭示ChatGPT美国用户人群画像:年轻、富裕、受过良好教育
5月25日消息,美国皮尤研究中心(Pew Research Center)最近开展的一项调查发现,58%的美国成年人熟悉ChatGPT,那些年轻富裕、受过良好教育的美国人更了解ChatGPT。调查显示,拥有研究生学位的高收入人士更熟悉ChatGPT...
业界动态 2023-05-25 08:08:16 -
全系标配超光影长焦OPPOReno10系列发布售价2499元起
5月24日消息,OPPO今日正式发布Reno十代里程碑之作Reno10系列新品。全系标配超光影长焦,配合OPPO独有的超光影算法;OPPO Reno10系列新品共有Reno10 Pro+、Reno10 Pro与Reno10三个版本可选,售价2499元起。OPPO Reno10系列标准版和Pro版搭载了同一颗2倍超光影长焦摄像头; Reno10 Pro+ 则是Reno系列十代以来首个采用大底潜望长焦的机型,超光影潜望长焦采用旗舰级的1/2英寸超大感光元件,6400万超高像素,f/2.5超大光圈,以及悬浮棱镜防抖等诸多技术组合。OPPO Reno10系列搭载了OPPO Find X6系列的同款动态光影屏并支持 ProXDR显示功能。Reno10系列通过光子矩阵显示技术,可以记录高达1200万个光子点矩阵信息,实现最高8倍的亮度激发。1400nit的峰值亮度、2772 x 1240分辨率、120Hz 智能动态刷新率等诸多技术。搭载大底潜望长焦的OPPO Reno10 Pro+ 的厚度仅为8...
电信通讯 2023-05-24 15:53:40