-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
马斯克等人呼吁暂停AI研究公开信遭质疑被指加剧炒作、歪曲论文
3月31日消息，特斯拉首席执行官埃隆·马斯克（ElonMusk）、苹果联合创始人史蒂夫·沃兹尼亚克（SteveWozniak）以及其他上千名AI研究人员日前签署公开信，呼吁暂停研究更先进的AI技术。然而，此信遭到许多专家甚至签名者的质疑，被指加剧AI炒作、签名造假以及歪曲论文等...
业界动态 2023-03-31 09:35:44 -
苹果已向上百名高管演示MR头盔未来前景遭质疑
3月27日消息，据外媒援引知情人士透露，苹果公司上周在其加州库比蒂诺苹果园的史蒂夫·乔布斯剧院中，举行了盛大的内部活动，向大约100名顶级高管演示了该公司多年来最重要的新产品——混合现实（MR）头盔。不过，许多苹果员工仍对这款设备的实用性和未经证实的市场表示担忧...
电信通讯 2023-03-27 08:11:31 -
索尼质疑微软搞独占网友：想在Xbox玩《西之绝境》
索尼反对微软收购动视暴雪的斗争正在继续，其最新的论点是针对《星空》以及其他贝塞斯达游戏的Xbox游戏机独占。索尼在最近向英国市场监管机构（CMA）提交的声明中指出，考虑到《星空》的排他性，不能相信微软会让《使命召唤》全平台登陆...
游戏资讯 2023-03-16 17:26:45 -
创业公司扎堆ChatGPT被质疑：大模型自研有多少？
图片来源@视觉中国文｜商业秀，作者｜毕俊，编辑｜展洋自今年2月中旬监管出手降温以来，国内关于ChatGPT的各大社群讨论，似乎沉寂了不少。彼时市场传言，有关部门将加强ChatGPT及相似产品的监测评估和违规行为处置工作，要求坚决关闭从境内访问境外ChatGPT的代理服务...
智能设备 2023-03-11 19:35:17 -
《生化危机：死亡岛》电影公开之后，吉尔的年龄引发质疑
卡普空在3月10日的直播活动中正式放出了生化危机最新CG电影《生化危机：死亡岛》的预告片，几大主角纷纷亮相。不同的是，克里斯和里昂相比他们在最新游戏里的亮相明显老了许多，而吉尔几乎没怎么变，于是玩家的疑问产生了...
游戏资讯 2023-03-11 11:05:59 -
没啥卵用！CMA质疑微软上《使命召唤》上switch的作用
微软之前宣布与任天堂签署了一份为期十年的协议，承诺将《使命召唤》游戏带到switch及后续任天堂的新游戏机上，这引起了众多玩家的关注，而玩家关注的点竟然不是在双方合作，而是在switch到底能不能跑《使命召唤》的问题。虽然之后微软总裁多次解释，将提供内容完整，有高技术标准的《使命召唤》，并且承诺新作同步发售，不过玩家依旧不太相信，甚至现在连专业机构都不信...
游戏资讯 2023-03-02 14:25:34 -
GeekBench6扩大iPhone和GalaxyS23跑分差距遭用户质疑
IT之家2月28日消息，跑分库GeekBench6.0在今年2月推出以来，在Reddit社区、Twitter社交平台以及一些数码论坛上，用户讨论的话题就是“苹果和GeekBench存在PY交易，让跑分更偏向于iPhone”。国外科技媒体PhoneArena在报道中指出，在Geekbench5下，GalaxyS23Ultra的单核分数约为1600，多核分数约为5000；而iPhone14Pro的成绩为1900和5500分...
手机互联 2023-02-28 08:33:28 -
Xbox游戏将登陆NS网友质疑：NS能带动吗？
就在刚刚，微软副董事长BradSmith宣布，他们已经与任天堂签署了一份10年的合同，将Xbox游戏带给任天堂的游戏玩家。然而消息一出，不少玩家表示，Xbox的游戏Switch运行的了吗？比如《使命召唤19：现代战争2》这种游戏大作...
游戏资讯 2023-02-21 16:08:37 -
《魔咒之地》PC配置需求高玩家质疑游戏没优化好
之前SE公布了《魔咒之地》PC版配置需求，配置比我们想象的高很多，许多玩家也开始抱怨起来。有人认为SE将主机游戏移植到PC上，却没有将其优化好...
游戏资讯 2023-01-21 13:25:15 -
63岁！华尔街债券之王去世，曾因加密货币言论反转被质疑操纵市场
本文来源：时代周报作者：何明俊华尔街知名投资大师、古根海姆（GuggenheimPartners）全球首席信息官CIO斯科特·米内德（ScottMinerd）于当地时间12月21日去世，享年63岁。斯科特·米内德ScottMinerd古根海姆声明称，米内德在日常锻炼时突发心脏病，在加州家中逝世...
区块链 2022-12-26 12:26:38 -
一周净流出36.6亿美元面对用户质疑和美国的刑事指控币安如何自证清白？
币安方面有关人士表示：“加密这个新兴行业发展迅速，而币安也通过大量投资于团队、人才以及我们用来检测和阻止非法活动的工具和技术，展现币安对安全性和合规性的承诺。”财联社|元宇宙NEWS12月14日讯（记者徐赐豪）币安会成为下个陷入挤兑危机的中心化交易所吗？近日，一场“Fud币安”的运动在社交媒体上兴起...
区块链 2022-12-14 19:17:04
