-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
日本：敞开训练AI不用管版权，LeCun：机器学习天堂
西风 发自 凹非寺量子位 | 公众号 QbitAI大模型狂潮下，日本政府坐不住了。直接宣布：不会对训练AI所使用的数据实施版权保护。这也就意味着，训练AI可以使用任何数据。不管是非营利还是商业目的，不论是否是复制以外的行为，只要你能搞得到，你就可以用，甚至从非法网站获得的数据也可以用。连Yann LeCun看到消息后都发文表示：日本已经成为了机器学习的天堂。确实，不少日本学术界和商界人士那是敲锣打鼓。毕竟想要在全球大模型舞台上分得一杯羹，数据本就是一大关键要素。但这引起了动漫和艺术创作者的担忧。早在四个月前，日本参议院议员、职业漫画家赤松健在YouTube上发布了一个讲用AI进行图像生成的视频，就有提到过侵权问题，以及漫画师的担忧。在那时，就有日本画友认为：希望能开发出超越“Novel AI”的AI插图服务。当然，这个AI服务的训练数据集中不能使用未经授权的转载图片。但现在，对训练AI所使用的数据集的版权限制已放开。用无视版权的方式“弯道超车”其实，日本并不是第一次在版权保护上有所松懈。日本曾经因为过于严苛的版权保护，导致版权转让极为不便，需要遵循诸多条条框框，盗版问题也很严重。之后，日本在2019年修正了版权保护制度。即便如此，这次日本被爆在训练AI方面的大尺度政策，还是令人惊讶。Technomancers.ai报道称：似乎日本认为版权问题，尤其是与动漫和其它视觉媒体相关的版权问题，阻碍了该国在人工智能技术方面的进展。作为回应，日本决定全力以赴，选择无版权的方式来保持竞争力。尽管日本目前是世界第三大经济体，但自1990年代以来，日本的经济增长一直缓慢。此时，若人工智能可以得到有效发展，就有可能在短时间内将日本的GDP提高50%或者更多。对于日本来说，这是一个令人兴奋的前景。日本还试图把手伸向西方国家的数据库，这也是日本发展人工智能的关键。相较而言，日本的日语训练数据量明显少于西方可用的英语数据资源。日本拥有很受欢迎动漫等文化内容。在这点上，日本的立场似乎很明确：如果西方利用日本文化来训练AI，那么西方文化资源也应该可供日本训练AI。AI监管辩论还在继续TB级别的训练数据是维系大模型进化的一大核心要素。毕竟可用的高质量训练数据越多，AI 模型就越好。而关于大模型训练数据不透明等问题一直是大家讨论的热点。大模型的野蛮生长势必要带来人们对其安全合规的考量，侵权问题就是需要监管的问题之一。而此次日本这一举动也为监管辩论增添了转折。针对版权问题，美国版权局（USCO）在三月份也发布了新规。但并不是对版权进行保护，而是称：人工智能（AI）自动生成的作品不受版权法保护。因为，和人工参与创作的Photoshop作品不同，通过Midjourney、Stability AI、ChatGPT等平台生成的作品完全由AI自动完成，而且训练的数据是基于人类创作的作品，因此不受版权法保护。对此，你怎么看？参考链接：[1]https://technomancers...
智能设备 2023-06-03 10:08:55 -
AI席卷华尔街：对冲基金部署ChatGPT，银行展开“军备竞赛”
·华尔街正在探索以ChatGPT为主的最新流行工具，希望通过提供足量的金融信息，使机器达到合理地为期权定价、建立投资组合或分析公司新闻的能力水平。·在最热衷于AI的银行中，大约40%的空缺职位是与AI相关的招聘，如数据工程师、量化分析师以及治理岗位。包括亿万富翁投资者沃伦·巴菲特在内的许多人认为，热衷于采用复杂的AI系统是未来风险降临的先兆。人工智能革命正在金融界上演。对冲基金公司正在部署ChatGPT处理繁重工作，德意志银行使用人工智能（AI）扫描客户的投资组合，荷兰国际集团利用AI筛选潜在的违约方。摩根士丹利表示，正在安全、可控的环境中试验运用AI技术。与此同时，摩根大通正在广泛吸纳AI人才，提供的相关招聘职位多于任何竞争对手。“苦活、累活”都交给AI事实上，AI早已应用于华尔街的各项工作中，比如计算信贷风险的机器学习算法。而现阶段，华尔街正在探索以ChatGPT为主的最新流行工具，希望通过提供足量的金融信息，使机器达到合理地为期权定价、建立投资组合或分析公司新闻的能力水平。金融从业者需要处理大量财经文本数据，如新闻、报告、评级等，甚至更深层次的程序代码编写工作， AI正在逐步接手。据彭博社5月31日报道，一些对冲基金公司表示，生成式AI已被用于处理市场研究审查、基础代码编写与基金业绩总结等普通任务，这些曾经“折磨”华尔街初级员工的“苦活、累活”都将交由AI消化、完成。系统性量化对冲基金Campbell & Co的首席执行官凯文·科尔（Kevin Cole）透露，该公司的量化分析师们使用大语言模型总结内部研究报告。凯文表示，AI在补全代码、编辑、查错等方面的能力非常强大。不过，人类员工仍会进行干预。目前的生成式智能工具，尚没有达到能改变人类日常投资方法的地步。据彭博社6月1日报道，帮助高盛集团和荷兰国际集团等公司开展AI业务的公司Eigen Technologies表示，与去年同期相比，2023年第一季度来自银行的咨询增加了五倍。咨询企业Evident的首席执行官兼联合创始人亚历山德拉·穆萨维扎德（Alexandra Mousavizadeh）表示，2022年11月ChatGPT的发布，“让每个人——董事会、首席执行官和银行的领导层——更加意识到这是一个改变游戏规则的因素”。她将这种情况描述为“人工智能军备竞赛”。德意志银行正在部署深度学习技术，以分析国际私人银行客户是否过度投资于某种特定资产，并为个人客户匹配合适的基金、债券或股票。在遵守法规的前提下，真人顾问会向顾客传递AI生成的建议。德意志国际私人银行数据解决方案全球负责人克里斯汀·安妮·布雷姆克（Kirsten-Anne Bremke）表示：“我非常喜欢这种将人工智能与人类智能结合起来的方式。”摩根大通出台了类似的计划。据知情人士透露，该公司今年5月为一项类似于ChatGPT的服务申请了专利，它可以帮助投资者选择特定的股票，目前该项目还处于初期阶段。法国巴黎银行正在使用聊天机器人回答客户问题，利用AI检测并预防欺诈和洗钱行为。法国兴业银行则利用AI的计算能力扫描资本市场中的潜在不当行为。今年4月，摩根士丹利表示，已经为一个模型申请了专利，该模型以侦测货币政策方向为目标，通过使用AI技术将美联储的信息划分为鹰派或鸽派。3月21日，华尔街投行高盛的首席信息官马可·阿让蒂（Marco Argenti）表示，内部开发人员已开始使用生成式AI进行编程。“现在这项技术还处于早期阶段。我们不会立即将所有重要工作都交由AI来完成，但当务之急是真正尝试并了解AI的潜力。”阿让蒂感叹道，“我从事技术工作已经将近40年，这是我见过的最大的颠覆之一——可能与互联网、应用程序、云计算相媲美。”风险与安全问题但这种风潮还是引发了对金融AI透明度和有效性的担忧。包括亿万富翁投资者沃伦·巴菲特（Warren Buffett）在内的许多人认为，热衷于采用复杂的AI系统是未来风险降临的先兆。银行家负有不根据不可靠信息进行交易的受托责任。纽约Friedman Kaplan Seiler Adelman & Robbins律师事务所的合伙人安妮·博蒙特（Anne Beaumont）表示，随着AI应用的扩大，这是一个问题。“当你在不知道问题是什么的情况下使用了AI回答时，你如何向投资者和监管机构证明你已经履行了职责？”今年4月，韩国三星电子被曝发生了3起员工使用ChatGPT导致机密数据外泄的事件。该公司员工将公司系统程序代码上传至ChatGPT，要求AI帮助修复错误和改善程序代码，并将会议记录输入至ChatGPT，指示AI帮忙做重点整理，导致工厂性能、产量等机密数据变成GPT模型训练数据的一部分。博通咨询研究院首席分析师王蓬博曾指出，金融从业者使用ChatGPT，即使用户是无意识的，也很有可能造成个人信息和数据的泄露。除此以外，无论是GPT-4，还是其他大型语言模型，均存在AI“幻觉（Hallucination）”问题，偶尔会无中生有、捏造信息。假如分析师使用ChatGPT来生成研究报告，内容看似相当可信，但如果报告中发出了虚假信息，错误成为一家上市公司的利空或利多消息，将造成非常严重的后果。此外，AI模型直接从互联网抓取信息训练数据，有可能夹杂了某些版权作品。对银行或提供财经信息的通讯社而言，此举有侵权之嫌，可能会损害公司声誉。“金融行业是一个严监管的行业，对于个人信息和相关的商业数据特别敏感。”王蓬博说，金融机构使用ChatGPT类产品，要先进行可控范围的评估，做好预防措施。咨询公司麦肯锡的合伙人卡罗·乔瓦尼（Carlo Giovine）表示，在与银行和保险公司合作时，他们会重新设计风险框架，以应对知识产权方面的考虑、不确定的监管环境以及AI“幻觉”等风险。Campbell & Co的科尔表示，公司内部正在试验使用一套开源模型，虽然处理能力不及ChatGPT，但胜在整套系统能够在本地部署、本地运行。科尔称：“我们必须非常小心此类工具带来的泄露风险。”开发和运行成本高近年来，银行业对于利用技术获取优势并不陌生，纷纷招募数据科学家、机器学习专家甚至天体物理学家。如今，这些投资正开始取得成果。美国银行首席执行官布莱恩·莫伊尼汉（Brian Moynihan）4月表示，AI可能带来“极大的好处”，有助于减少员工数量，但同时也要谨慎行事。巴克莱银行在金融AI领域仍处于“认真研究”阶段。首席执行官文卡塔克里什南（C.S...
智能设备 2023-06-03 10:08:50 -
苹果AppleWatch新专利：背面配摄像头，可拍照生成虚拟头像
IT之家 6 月 2 日消息，根据美国商标和专利局（USPTO）公示的清单，苹果公司近日获得了一项关于 Apple Watch 的技术专利。专利描述了一个奇怪的应用场景 ，苹果计划在 Apple Watch 背面配备摄像头，允许佩戴者拍摄 Face ID 图像，并生成可在 Apple Watch、苹果 AR / VR 头显中使用的 2D / 3D 虚拟头像...
智能设备 2023-06-02 11:23:45 -
vivoY27手机现身GooglePlay管理中心：搭载天玑6020芯片
IT之家 5 月 31 日消息，vivo 在 5 月份非常忙碌，在中国和国际市场已经或将要推出一系列新智能手机，其中包括 vivo S17 系列、vivo Y36、vivo Y35m 和 vivo Y78，vivo V29 系列新手机也在筹备中。现在一款新的 vivo Y27 手机已现身 Google Play 管理中心。vivo Y27 5G 手机的型号为 V2248，这与最近推出的 vivo Y36 5G 型号相同，暗示 vivo Y27 可能只是这款手机的不同地区的更名版。vivo Y27 5G 手机将搭载联发科 MT6833 芯片，过去被称为天玑 700，但联发科的新命名预计是天玑 6020（IT之家注：两个主频 2.2GHz 内核和六个主频 2...
手机互联 2023-05-31 10:03:09 -
不锈钢材质，苹果早期AppleWatch原型曝光
IT之家 5 月 31 日消息，原型收藏家 Kosutami 在分享 MagSafe 磁吸充电器原型的时候，还分享了一款不锈钢材质的 Apple Watch 手表金属外壳。他在推文中表示，这款 Apple Watch 是早期“头脑风暴”开发过程中的产物，其尺寸并非 38mm 或者 42mm，而是介于两者之间...
手机互联 2023-05-31 07:54:43 -
透明屏幕iPhone有希望了？曝三星将加速透明OLED量产
据韩国媒体报道，三星显示正计划于2023年下半年发布透明OLED屏幕试制品。该公司正在开发采用量子点技术的透明OLED，并计划最快于今年下半年推出试制品...
手机互联 2023-05-30 00:54:03 -
苹果的最大竞争对手？外媒上手Quest3头盔：预计10月份发布
5月29日消息，最近，彭博科技的作者马克·古尔曼(Mark Gurman)试用了Meta即将推出的混合现实头戴式设备Quest3。他认为，Quest 3更轻薄，透传功能大幅提升，处理速度更快，可运行的内容也更多，在混合现实领域明显具有很大吸引力...
业界动态 2023-05-29 16:28:37 -
佳能开发出新型QD-OLED材料：用铅替代稀土金属，成本降低99%
IT之家 5 月 29 日消息，据日经新闻报道，佳能已开发出一种不使用稀土金属的有机发光二极管（OLED）面板材料，计划在几年内将该技术商业化。▲ 图源佳能这种新材料是量子点 QD-OLED，即直径为 1 纳米的微小半导体粒子...
智能设备 2023-05-29 10:15:47 -
首块全3D打印柔性OLED显示屏问世
科技日报北京1月12日电 （记者刘霞）美国研究人员在最新一期《科学进展》杂志上撰文指出，他们使用定制的打印机，打印出了首块柔性有机发光二极管（OLED）显示屏，这种由3D打印制成的显示屏，无须以往昂贵的微加工设备。 OLED显示技术使用有机材料层将电转换为光，其使用范围广泛，既可用作电视屏和显示器等大型设备，也可用作智能手机等手持电子设备，因其重量轻、节能、轻薄柔韧、视角宽、对比度高而广受欢迎。 最新研究资深作者、明尼苏达大学机械工程系米歇尔·麦卡尔平说：“OLED显示屏通常在庞大、昂贵、且超清洁的制造设施中生产，我们想看看是否能压缩工艺流程，利用我们定制的桌面3D打印机（‘身价’与一辆特斯拉S型汽车差不多）打印出来。” 研究团队此前曾尝试使用3D打印机打印OLED显示屏，但无法实现发光层均匀一致。在最新研究中，他们另辟蹊径，结合两种不同的打印模式来打印6个设备层，最终打印出了首块完全由3D打印机制造的柔性OLED显示屏。其中，电极、互连、绝缘和封装层均采用挤压印刷获得，活性层采用相同的3D打印机在室温下喷涂印刷而成。显示器原型边长约3.8厘米，有64个像素，每个像素都能正常工作。 最新研究第一作者、明尼苏达大学机械工程博士毕业生苏芮涛（音译）说，新的3D打印显示屏很柔韧，可封装在其他材料内，这使它可以广泛应用于多个领域。实验表明，该显示屏历经2000次弯曲仍保持稳定，这表明全3D打印OLED或可用于柔性电子设备和可穿戴设备内。 研究人员接下来计划利用3D打印机打印拥有更高分辨率和更高亮度的OLED显示屏。...
智能设备 2023-05-27 17:11:27 -
英伟达AI智能体接入GPT-4，完胜AutoGPT！自主写代码独霸我的世界，无需人类插手
新智元报道编辑：Aeneas 好困【新智元导读】给游戏行业来点GPT-4式震撼？这个叫Voyager的智能体不仅可以根据游戏的反馈自主训练，而且还能自行写代码推动游戏任务。继斯坦福的25人小镇后，AI智能体又出爆款新作了。最近，英伟达首席科学家Jim Fan等人把GPT-4整进了「我的世界」（Minecraft）——提出了一个全新的AI智能体Voyager。Voyager的厉害之处在于，它不仅性能完胜AutoGPT，而且还可以在游戏中进行全场景的终身学习！比起之前的SOTA，Voyager获得的物品多出了3.3倍，旅行距离变长了2...
智能设备 2023-05-27 16:03:18 -
这个比ChatGPT情商还高的AI，我可以和它聊三天三夜
狂拿考试高分让学生瑟瑟发抖，加入联网功能叫传统搜索战战兢兢，升级工作全家桶搞得打工人又悲又喜....
智能设备 2023-05-27 16:02:52
