-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
英伟达AI智能体接入GPT-4，完胜AutoGPT！自主写代码独霸我的世界，无需人类插手
新智元报道编辑：Aeneas 好困【新智元导读】给游戏行业来点GPT-4式震撼？这个叫Voyager的智能体不仅可以根据游戏的反馈自主训练，而且还能自行写代码推动游戏任务。继斯坦福的25人小镇后，AI智能体又出爆款新作了。最近，英伟达首席科学家Jim Fan等人把GPT-4整进了「我的世界」（Minecraft）——提出了一个全新的AI智能体Voyager。Voyager的厉害之处在于，它不仅性能完胜AutoGPT，而且还可以在游戏中进行全场景的终身学习！比起之前的SOTA，Voyager获得的物品多出了3.3倍，旅行距离变长了2...
智能设备 2023-05-27 16:03:18 -
GPT-4玩《我的世界》15倍速攀科技，不看画面全靠代码操作
克雷西 发自 凹非寺量子位 | 公众号 QbitAI把GPT-4放进一个虚拟世界会怎么样？比如《我的世界》。英伟达开发最新方法Voyager，在游戏中点亮科技树的速度是此前方法的15.3倍，同时获得的独特物品是此前的3...
智能设备 2023-05-27 16:02:52 -
马斯克：特斯拉可能会向其他汽车制造商“开放更多源代码”
5月26日消息，美国当地时间周四，特斯拉首席执行官埃隆·马斯克（Elon Musk）在与福特首席执行官吉姆·法利（Jim Farley）的对话中表示，特斯拉可能会向其他汽车制造商开放部分汽车操作系统代码。马斯克说：“就像安卓作为一种通用标准对手机行业有所帮助那样，我们可能会开放更多源代码以便对汽车行业提供帮助...
业界动态 2023-05-26 08:30:43 -
自动写代码？GoogleColab叫板githubcopilot
【网易科技5月18日报道】近日，谷歌宣布了Google Colaboratory（Colab）将加入全新的AI编码功能。据了解，该功能由全新的「文生代码」模型Codey提供支持，支持20多种编码语言，包括Go、谷歌标准SQL、Java、Javascript、Python和Typescript等...
智能设备 2023-05-18 14:56:18 -
外媒：稳定币走开，新代币来了！
参考消息网5月16日报道 彭博新闻社网站近日发表题为《稳定币走开，一种新代币来了》的文章，作者是安迪·慕克吉，文章编译如下数字货币界人士现在分为两个阵营。传统观念者希望有公立机构继续负责为民众提供一个安全的交易媒介来解决彼此的债务问题。他们说，否则，私人资金可能会变得像美国内战前的野猫银行业务那样不可靠，当时田纳西州一家银行发行的货币在费城会折价20%。另一方面，实验主义者认为，围绕央行数字货币（CBDC）的激动是一时狂热——有点像上世纪80年代的“降落伞裤”。国家一旦建立了记账单位就可以靠边站，允许非国有部门使用自己的稳定币，即与美元、欧元、日元或英镑挂钩的电子化表示。在这场公私之争看不到任何解决方案的时候，现在有了第三个因素——存款代币。这一想法的萌芽最近作为“守护者计划”的一部分得到了验证，“守护者计划”是新加坡央行与金融业的一项合作，旨在探索资产代币化的经济潜力。摩根大通公司将新加坡元存款变成数字资产，将其设置为只能与一些已知的钱包地址进行交易，并证明公共区块链上可以实现制度化级别的安全。由于所有流通资金中有九成是银行存款，因此所有这些资金支持“智能合约”的可能性——即在满足某些条件时启动货币价值交换的自执行软件代码——是一件重大事宜。以房地产交易为例。在产权转让（即房产易手）时使用托管账户是相当常见的做法。不太常见、但也并非完全绝迹的是运作托管账户的律师卷款跑路的情况。现在假设把买价从存款账户中取出，放进一个数字储蓄罐，卖家有一把只能在公寓出售时使用的密钥。这就是智能合约。如果交易失败，就可以砸破这个储蓄罐。让CBDC和稳定币——两者都是零售产品——争夺人们的关注吧。幕后的破坏者很可能事实上是乏善可陈的存款。存款大有用处。贸易中一方可能无法偿付对方欠款的风险是跨境支付每天损失2.2万亿美元的噩梦。区块链具有原子效应：交易双方或是一起成功，或是一道失败。数字化存款可能使结算风险消失。根据奥纬咨询公司和摩根大通旗下Onyx数字平台联合发布的一份报告，消费者将获得随成本降低的效率增益：2020年，跨境转账23...
区块链 2023-05-16 19:44:13 -
谷歌深夜王炸级更新！PaLM2大模型震撼发布！Bard写代码，哪里不懂点哪里！
这回，谷歌急了！他们这半年过得是真憋屈！近半年来AI的发展速度就像坐上了火箭，11月ChatGPT横空出世，今年2月发布的NewBing和3月发布的GPT-4，更是让许多大厂都难以望其项背。不甘落后的谷歌立刻推出聊天机器人Bard，结果因为演示视频中的小错误而导致股价大跌（其实GPT也会失误），现在，在谷歌一年一度的I/O大会上，谷歌需要让公众以及股东们相信其在AI方面的实力，来“一雪前耻”...
智能设备 2023-05-11 04:04:09 -
研究人员发现ChatGPT生成的代码大部分不安全，但不会主动告诉你
IT之家4月23日消息，ChatGPT聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误...
智能设备 2023-04-23 11:08:33 -
OpenHarmony3.2Release版本发布社区累计代码量超1亿行
4月19日消息，开放原子开源基金会OpenHarmony开发者大会2023举办。在此次大会上，OpenHarmony3.2Release版本正式发布...
业界动态 2023-04-20 21:02:53 -
商汤版ChatGPT来了！仅向政企客户开放接口，代码效率可提升62%
本文来源：时代周报作者：黄婧前有百度、华为，后有阿里，4月10日，商汤科技（下称“商汤”）的大模型的发布会可谓顶着压力硬上。发布会上董事长兼CEO徐立宣布推出“日日新SenNova””大模型体系，以“超市”组合打包推出...
智能设备 2023-04-11 10:31:17 -
《森林之子》控制台代码有哪些作弊码作用是什么？
《森林之子》是一款恐怖生存类游戏，里面包含各类野人，游戏目前正在公测中。许多玩家都很好奇《森林之子》是否和前作一样，都有控制台代码快速下达指令进行一系列的行为，有哪些控制台代码？每一个作弊码的作用是什么呢？这里小编整理了一个关于《森林之子》作弊码指令大全，欢迎各位小伙伴参考...
游戏资讯 2023-03-29 15:24:47 -
推特被曝部分源代码遭泄露已数月涉事人或于去年离职
3月27日消息，社交媒体平台推特称部分源代码已经被泄露到网上，目前公司正努力确定责任人以及哪些人下载过代码。据外媒报道，一份法律文件显示，推特平台部分底层源代码已经泄露到网上...
业界动态 2023-03-27 08:25:07
