首页 > 资讯列表 >  本页面生成aptXAdaptive专题报道,aptXAdaptive滚动新闻,aptXAdaptive业界评论等相关报道!
  • 秒杀苹果Siri?曝有中国手机厂商将主动引入ChatGPT

    秒杀苹果Siri?曝有中国手机厂商将主动引入ChatGPT

    【手机中国新闻】6月2日,手机中国注意到,根据相关数码博主透露的信息,中国手机厂商传音Infinix将主动引入OpenAI旗下的ChatGPT。传音手机据悉,目前,虽然OpenAI已经在苹果的应用商店上架了ChatGPT应用,但是在Android这边,相关的应用上架仍然需要一定时间的准备...

    手机互联 2023-06-03 10:12:48
  • GPT-4变笨引爆舆论!文本代码质量都下降,OpenAI刚刚回应了质疑

    GPT-4变笨引爆舆论!文本代码质量都下降,OpenAI刚刚回应了质疑

    梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4,它是不是……变笨了?先是少数用户提出质疑,随后大量网友表示自己也注意到了,还贴出不少证据。有人反馈,把GPT-4的3小时25条对话额度一口气用完了,都没解决自己的代码问题。无奈切换到GPT-3.5,反倒解决了。总结下大家的反馈,最主要的几种表现有:以前GPT-4能写对的代码,现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑,OpenAI是不是为了节省成本,开始偷工减料?两个月前GPT-4是世界上最伟大的写作助手,几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”,后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后,“几周之前开始变差”,成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick,出面回复了一位网友的质疑:API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧?”,也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致,只是由于大模型本身的不稳定性吗?”,也得到了“Yes”的回复。但是截至目前,针对网页版GPT-4是否被降级过的两条追问都没有得到回答,并且Logan在这段时间有发布别的内容。那么事情究竟如何,不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差,我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗?3月底,我们曾实验过让GPT-4“炼丹”,用Python写一个多层感知机来实现异或门。△ShareGPT截图,界面稍有不同让GPT-4改用numpy不用框架后,第一次给出的结果不对。在修改两次代码后,运行得到了正确结果。第一次修改隐藏神经元数量,第二次把激活函数从sigmoid修改成tanh。6月2日,我们再次尝试让GPT-4完成这个任务,但换成了中文提示词。这回GPT-4第一次就没有使用框架,但给的代码仍然不对。后续只修改一次就得到正确结果,而且换成了力大砖飞的思路,直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降,但响应速度感觉确实有变快。由于时间有限,我们只进行了这一个实验,且由于AI本身的随机性,也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索,发现从4月下旬开始,就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论,也没有得到官方正式回应。5月31日,Hacker News和Twitter同天开始大量有网友讨论这个问题,成为整个事件的关键节点。HackerNews一位网友指出,在GPT-4的头像还是黑色的时候更强,现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的,是HyperWrite(一款基于GPT API开发的写作工具)的CEO,Matt Shumer。但这条推文却引发了许多网友的共鸣,OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意,反而讨论的范围越来越大。比如Reddit上一篇帖子提到,原来能回答代码问题的GPT-4,现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下,帖子作者对问题出现的过程进行了概述,还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过,公开层面确实没有相关记录。ChatGPT的更新日志中,分别在1月9日、1月30日、2月13日提到了对模型本身的更新,涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了,只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说,GPT-4模型本身的能力没有变化,那么这么多人都感觉它表现变差是怎么回事呢?很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示,不是GPT的表现变差,而是大家度过了最初的惊喜期,对它的期待变高了。Hacker News上也有网友持相同观点,并补充到人们的关注点发生了改变,对GPT失误的敏感度更高了。抛开人们心理感受的差异,也有人怀疑API版本和网页版本不一定一致,但没什么实据。还有一种猜测是在启用插件的情况下,插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示,在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变,但推理参数是否有变化?量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话,它会知道自己在通过手机与你交互。会把回答控制在一到两句话,除非需要长的推理。不会使用表情包,除非你明确要求他使用。△不一定成功,大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到,就可能观察到GPT-4回答变简单了。总之,GPT-4自发布以来到底有没有变笨,目前还是个未解之谜。但有一点可以确定:3月14日起大家上手玩到的GPT-4,从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花:GPT-4早期实验》中明确:他们早在GPT-4开发未完成时就得到了测试资格,并进行了长期测试。后来针对论文中很多惊艳例子,网友都不能成功用公开版GPT-4复现。目前学术界有个观点是,后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next|科技早知道》S7E11期中也提到:那个版本的模型,比现在外面大家都可以拿得到的GPT-4还要更强,强得非常非常多。举例来说,微软团队在论文中提到,他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果,画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候,后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法,也成了现在很多团队的研究方向,但还在起步阶段。除了专业研究团队之外,关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽,并在网站上公开记录。从4月12日开始,直到现在也还没看出来个独角兽的大致形态。当然网站作者表示,自己让GPT-4使用SVG格式画图,与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差,也没看出来明显退步。最后来问问大家,你是GPT-4用户么?最近几周有感到GPT-4能力下降么?欢迎在评论区聊聊。Bubeck演讲:https://www...

    智能设备 2023-06-03 10:09:46
  • AI席卷华尔街:对冲基金部署ChatGPT,银行展开“军备竞赛”

    AI席卷华尔街:对冲基金部署ChatGPT,银行展开“军备竞赛”

    ·华尔街正在探索以ChatGPT为主的最新流行工具,希望通过提供足量的金融信息,使机器达到合理地为期权定价、建立投资组合或分析公司新闻的能力水平。·在最热衷于AI的银行中,大约40%的空缺职位是与AI相关的招聘,如数据工程师、量化分析师以及治理岗位。包括亿万富翁投资者沃伦·巴菲特在内的许多人认为,热衷于采用复杂的AI系统是未来风险降临的先兆。人工智能革命正在金融界上演。对冲基金公司正在部署ChatGPT处理繁重工作,德意志银行使用人工智能(AI)扫描客户的投资组合,荷兰国际集团利用AI筛选潜在的违约方。摩根士丹利表示,正在安全、可控的环境中试验运用AI技术。与此同时,摩根大通正在广泛吸纳AI人才,提供的相关招聘职位多于任何竞争对手。“苦活、累活”都交给AI事实上,AI早已应用于华尔街的各项工作中,比如计算信贷风险的机器学习算法。而现阶段,华尔街正在探索以ChatGPT为主的最新流行工具,希望通过提供足量的金融信息,使机器达到合理地为期权定价、建立投资组合或分析公司新闻的能力水平。金融从业者需要处理大量财经文本数据,如新闻、报告、评级等,甚至更深层次的程序代码编写工作, AI正在逐步接手。据彭博社5月31日报道,一些对冲基金公司表示,生成式AI已被用于处理市场研究审查、基础代码编写与基金业绩总结等普通任务,这些曾经“折磨”华尔街初级员工的“苦活、累活”都将交由AI消化、完成。系统性量化对冲基金Campbell & Co的首席执行官凯文·科尔(Kevin Cole)透露,该公司的量化分析师们使用大语言模型总结内部研究报告。凯文表示,AI在补全代码、编辑、查错等方面的能力非常强大。不过,人类员工仍会进行干预。目前的生成式智能工具,尚没有达到能改变人类日常投资方法的地步。据彭博社6月1日报道,帮助高盛集团和荷兰国际集团等公司开展AI业务的公司Eigen Technologies表示,与去年同期相比,2023年第一季度来自银行的咨询增加了五倍。咨询企业Evident的首席执行官兼联合创始人亚历山德拉·穆萨维扎德(Alexandra Mousavizadeh)表示,2022年11月ChatGPT的发布,“让每个人——董事会、首席执行官和银行的领导层——更加意识到这是一个改变游戏规则的因素”。她将这种情况描述为“人工智能军备竞赛”。德意志银行正在部署深度学习技术,以分析国际私人银行客户是否过度投资于某种特定资产,并为个人客户匹配合适的基金、债券或股票。在遵守法规的前提下,真人顾问会向顾客传递AI生成的建议。德意志国际私人银行数据解决方案全球负责人克里斯汀·安妮·布雷姆克(Kirsten-Anne Bremke)表示:“我非常喜欢这种将人工智能与人类智能结合起来的方式。”摩根大通出台了类似的计划。据知情人士透露,该公司今年5月为一项类似于ChatGPT的服务申请了专利,它可以帮助投资者选择特定的股票,目前该项目还处于初期阶段。法国巴黎银行正在使用聊天机器人回答客户问题,利用AI检测并预防欺诈和洗钱行为。法国兴业银行则利用AI的计算能力扫描资本市场中的潜在不当行为。今年4月,摩根士丹利表示,已经为一个模型申请了专利,该模型以侦测货币政策方向为目标,通过使用AI技术将美联储的信息划分为鹰派或鸽派。3月21日,华尔街投行高盛的首席信息官马可·阿让蒂(Marco Argenti)表示,内部开发人员已开始使用生成式AI进行编程。“现在这项技术还处于早期阶段。我们不会立即将所有重要工作都交由AI来完成,但当务之急是真正尝试并了解AI的潜力。”阿让蒂感叹道,“我从事技术工作已经将近40年,这是我见过的最大的颠覆之一——可能与互联网、应用程序、云计算相媲美。”风险与安全问题但这种风潮还是引发了对金融AI透明度和有效性的担忧。包括亿万富翁投资者沃伦·巴菲特(Warren Buffett)在内的许多人认为,热衷于采用复杂的AI系统是未来风险降临的先兆。银行家负有不根据不可靠信息进行交易的受托责任。纽约Friedman Kaplan Seiler Adelman & Robbins律师事务所的合伙人安妮·博蒙特(Anne Beaumont)表示,随着AI应用的扩大,这是一个问题。“当你在不知道问题是什么的情况下使用了AI回答时,你如何向投资者和监管机构证明你已经履行了职责?”今年4月,韩国三星电子被曝发生了3起员工使用ChatGPT导致机密数据外泄的事件。该公司员工将公司系统程序代码上传至ChatGPT,要求AI帮助修复错误和改善程序代码,并将会议记录输入至ChatGPT,指示AI帮忙做重点整理,导致工厂性能、产量等机密数据变成GPT模型训练数据的一部分。博通咨询研究院首席分析师王蓬博曾指出,金融从业者使用ChatGPT,即使用户是无意识的,也很有可能造成个人信息和数据的泄露。除此以外,无论是GPT-4,还是其他大型语言模型,均存在AI“幻觉(Hallucination)”问题,偶尔会无中生有、捏造信息。假如分析师使用ChatGPT来生成研究报告,内容看似相当可信,但如果报告中发出了虚假信息,错误成为一家上市公司的利空或利多消息,将造成非常严重的后果。此外,AI模型直接从互联网抓取信息训练数据,有可能夹杂了某些版权作品。对银行或提供财经信息的通讯社而言,此举有侵权之嫌,可能会损害公司声誉。“金融行业是一个严监管的行业,对于个人信息和相关的商业数据特别敏感。”王蓬博说,金融机构使用ChatGPT类产品,要先进行可控范围的评估,做好预防措施。咨询公司麦肯锡的合伙人卡罗·乔瓦尼(Carlo Giovine)表示,在与银行和保险公司合作时,他们会重新设计风险框架,以应对知识产权方面的考虑、不确定的监管环境以及AI“幻觉”等风险。Campbell & Co的科尔表示,公司内部正在试验使用一套开源模型,虽然处理能力不及ChatGPT,但胜在整套系统能够在本地部署、本地运行。科尔称:“我们必须非常小心此类工具带来的泄露风险。”开发和运行成本高近年来,银行业对于利用技术获取优势并不陌生,纷纷招募数据科学家、机器学习专家甚至天体物理学家。如今,这些投资正开始取得成果。美国银行首席执行官布莱恩·莫伊尼汉(Brian Moynihan)4月表示,AI可能带来“极大的好处”,有助于减少员工数量,但同时也要谨慎行事。巴克莱银行在金融AI领域仍处于“认真研究”阶段。首席执行官文卡塔克里什南(C.S...

    智能设备 2023-06-03 10:08:50
  • 微软继续加注!与初创公司CoreWeave签署AI算力协议

    微软继续加注!与初创公司CoreWeave签署AI算力协议

    ①微软已经与CoreWeave签署人工智能算力协议,价值可能高达数十亿美元; ②CoreWeave写道,该公司提供的计算能力“比传统云提供商便宜80%”。 财联社6月2日讯(编辑 牛占林)对OpenAI的巨额投资,让微软在这场人工智能(AI)竞赛中捷足先登。与此同时,这家软件巨头还试图借助其他领域推动其人工智能业务的发展。美东时间周四,据知情人士透露,微软已经与初创公司CoreWeave签署人工智能算力协议,用于云计算基础设施,价值可能高达数十亿美元。CoreWeave周三宣布,已获得2亿美元融资。就在一个多月前,该公司获得了20亿美元的估值。CoreWeave周三宣布获得对冲基金Magnetar Capital的融资,是4月份2.21亿美元融资的延续。此外,英伟达在该公司之前的融资中投资了1亿美元。据悉,CoreWeave成立于2017年,最初是一家以太坊采矿企业,目前则专门提供基于图形处理单元(GPU)的云计算服务。CoreWeave旨在通过比超大规模企业更快的创新来主导人工智能技术,为蓬勃发展的行业提供支持。在人工智能热潮中,CoreWeave向这些人工智能公司出售算力,与微软Azure和亚马逊的AWS等云计算服务提供商展开竞争。CoreWeave在其网站中写道,该公司提供的计算能力“比传统云提供商便宜80%”,使用了一种名为无限带宽(InfiniBand)的网络技术将计算机连接在一起,为人工智能工作构建不同的数据中心。此外,CoreWeave还提供更便宜的Nvidia A40 GPU,主要用于视觉计算,而A100则主要针对人工智能、数据分析和高性能计算。CoreWeave首席执行官Michael Intrator表示,公司为生成式人工智能、大型语言模型和人工智能工厂提供加速计算基础设施的战略,将有助于为每个行业带来最高性能、最节能的计算平台。知情人士表示,为了确保ChatGPT未来拥有足够的算力,微软今年早些时候便与CoreWeave签署了协议。除了资金外,OpenAI还依赖微软的Azure云来满足计算需求。英伟达首席财务官Colette Kress在上周的财报电话会议上表示,公司业绩的增长趋势主要由数据中心推动,反映出与生成式人工智能和大型语言模型相关的需求急剧增长。Kress还提到了CoreWeave。3月份,英伟达首席执行官黄仁勋也提到了这家初创公司。CoreWeave联合创始人兼首席战略官Brannin McBee指出,他的公司与英伟达保持着密切的合作关系,在当前人工智能芯片稀缺的市场中,获得芯片供应至关重要,CoreWeave比许多规模更大的竞争对手更早地使用了英伟达的H100芯片。 ...

    智能设备 2023-06-02 11:23:39
  • 技嘉推出外置液冷RTX4090显卡盒,可让笔记本秒变游戏利器

    技嘉推出外置液冷RTX4090显卡盒,可让笔记本秒变游戏利器

    IT之家 5 月 31 日消息,近日,技嘉发布了一款全新的外置显卡盒 ——Aorus RTX 4090 Gaming Box,该产品内置了一块液冷的 RTX 4090 显卡,可以通过雷电 3/4 接口与笔记本电脑连接,为轻薄本提供强大的游戏性能。据悉,Aorus RTX 4090 Gaming Box 采用了 Aorus Waterforce 240mm AIO 冷却方案,将显卡核心、显存和供电系统都覆盖在一个大型铜基底上,通过高耐久性的 FEP 软管连接到一个带有两个 120mm“静音风扇”的散热器。这样一来,显卡可以在超低温度下运行,保持高频率和超频潜力,同时延长使用寿命。技嘉没有透露这款显卡盒使用的是哪款 RTX 4090 型号,但猜测可能是经过修改的 Aorus RTX 4090 Xtreme Waterforce。显卡盒本身尺寸为 189 x 302 x 172mm,外观设计成熟大气,以黑色为主色调,正面只有一个 Aorus RGB 标志。为了保证散热效果,显卡盒的顶部和左右侧面都有通风孔。整个显卡盒由一个 850W 电源供电,具有 90% 的效率等级,提供四个 8 针 PCIe 电源插头。技嘉不建议用户更换显卡,但猜测应该可以,因为技嘉使用了四个 8 针而不是原生的 16 针电源插头。IT之家注意到,除了强悍的显卡之外,Aorus RTX 4090 Gaming Box 还提供了丰富的后置和前置接口,包括三个 Displayport 1.4a 接口、一个 HDMI 2...

    智能设备 2023-05-31 10:54:03
  • 可装RTX4090显卡,酷冷至尊展示紧凑型机箱NCore100Max

    可装RTX4090显卡,酷冷至尊展示紧凑型机箱NCore100Max

    IT之家 5 月 30 日消息,酷冷至尊(Cooler Master)在 Computex 2023 大展上,展示了一款适配英伟达旗舰 RTX 4090 显卡的紧凑型机箱-NCore 100 Max。NCore 100 Max 机箱高度为 481mm,宽度为 212mm、厚度在 155 至 172mm 之间。该机箱内部有足够的空间容纳长度达 357 毫米的 GeForce RTX 4090,允许安装厚度为三槽位、四槽位的显卡。NCore 100 Max 机箱内部使用 Mini-ITX 主板,没有透明背板和 RGB 灯效,不过有带灰尘过滤器的穿孔铝墙。NCore 100 Max 机箱预装 850WV SFX Gold ATX 3.0 电源和一个用于 2...

    智能设备 2023-05-30 10:51:39
  • 英伟达AI智能体接入GPT-4,完胜AutoGPT!自主写代码独霸我的世界,无需人类插手

    英伟达AI智能体接入GPT-4,完胜AutoGPT!自主写代码独霸我的世界,无需人类插手

    新智元报道编辑:Aeneas 好困【新智元导读】给游戏行业来点GPT-4式震撼?这个叫Voyager的智能体不仅可以根据游戏的反馈自主训练,而且还能自行写代码推动游戏任务。继斯坦福的25人小镇后,AI智能体又出爆款新作了。最近,英伟达首席科学家Jim Fan等人把GPT-4整进了「我的世界」(Minecraft)——提出了一个全新的AI智能体Voyager。Voyager的厉害之处在于,它不仅性能完胜AutoGPT,而且还可以在游戏中进行全场景的终身学习!比起之前的SOTA,Voyager获得的物品多出了3.3倍,旅行距离变长了2...

    智能设备 2023-05-27 16:03:18
  • 这个比ChatGPT情商还高的AI,我可以和它聊三天三夜

    这个比ChatGPT情商还高的AI,我可以和它聊三天三夜

    狂拿考试高分让学生瑟瑟发抖,加入联网功能叫传统搜索战战兢兢,升级工作全家桶搞得打工人又悲又喜....

    智能设备 2023-05-27 16:02:52
  • GPT-4玩《我的世界》15倍速攀科技,不看画面全靠代码操作

    GPT-4玩《我的世界》15倍速攀科技,不看画面全靠代码操作

    克雷西 发自 凹非寺量子位 | 公众号 QbitAI把GPT-4放进一个虚拟世界会怎么样?比如《我的世界》。英伟达开发最新方法Voyager,在游戏中点亮科技树的速度是此前方法的15.3倍,同时获得的独特物品是此前的3...

    智能设备 2023-05-27 16:02:52
  • 数学论证GPT-4不是随机鹦鹉:真如此的话整个宇宙都会坍缩

    数学论证GPT-4不是随机鹦鹉:真如此的话整个宇宙都会坍缩

    克雷西 发自 凹非寺量子位 | 公众号 QbitAI对于ChatGPT的工作原理,一个常见的解释是根据统计学规律预测下一个词。但最近一位叫Jacob Bayless的工程师用数学方法得出惊人结论:若是如此,所需的信息量足以让整个宇宙都坍塌成黑洞。这一数据量是50000^8000,根据贝肯斯坦上限(Bekenstein bound)原理,如果把这些信息分配到空间当中,所需要的信息密度已经远超宇宙能承受的最大值。而这仅仅是把数据存储起来的消耗,更不必说还要进行运算了。而ChatGPT与单纯统计预测的区别,可以做这样的类比:如果天文学家通过历史观测记录推算出月食的周期,这可以算是统计学。但当他们总结出牛顿万有引力定律的时候,就已经超越了统计学。什么是“随机鹦鹉”一个流传很广的说法,所谓大语言模型实际上相当于一个“随机鹦鹉”——与我们观察其输出时的情况相反,语言模型只是将其在庞大的训练数据中观察到的语素胡乱拼接在一起,根据概率生成文本,但不清楚文字背后的任何含义,就像一个随机的鹦鹉。出自论文On The Dangers of Stochastic Parrots: Can Language Models Be Too Big这对过去的语言模型,或许确实成立。比如曾经流行的n-gram算法。比如当我们在搜索引擎中进行搜索时,出现的联想词就能用此方法实现。具体来说,下面的三行文本中,第一行纯粹是随机生成,第二行考虑了单词在英语中整体的出现概率,第三行则考虑了单词在前一个词后面出现的概率。n = 0: RECEIVE FALL SURPRISED FRIDAY INGREDIENT…n = 1: REPRESENTING AND SPEEDILY IS AN GOOD…n = 2: THE CHARACTER OF THIS POINT IS THEREFORE…不难看出,随着n值的升高,文本越来越接近人类语言。而n-gram模型根本不需要掌握其中的语义或理解其中的抽象概念,就能生成像模像样的句子。据此有人猜想,GPT-4会不会也只是一种高级的n-gram呢?Bayless提出,GPT必须学会抽象才能有如今的效果,至少GPT-4肯定如此。GPT-4不只是“随机鹦鹉”要证明这一点,可以先看下棋机器人的例子。如果有一种下棋机器人,存储了巨量棋谱数据,对于每个棋局都能推荐下一步。那它就能通过“背谱法”模仿其他任何棋手或程序的下法比如Stockfish是最先进的国际象棋程序,如果仅通过对战而不看源码,是无法确定Stockfish是否在背谱。但实际上,包含所有情形和步骤的棋谱数据量可能超过2^154。而Stockfish的程序只占用了不到50MB的空间,根本不可能存下需要的所有棋谱。所以Stockfish肯定是通过更高级的方法来实现下棋的。人类语言的复杂度远超过棋类游戏,因此GPT的数据量更是同理。仅在是上一代的GPT-3的token字典中就有超过5万token。如果对每个词都逐一建立统计信息,n-gram模型中n值将高达8000。届时,需要存储的情景数量将达到50000^8000。正如文章开头所提到,这简直是天文数字,足以让整个宇宙坍缩。因此,GPT是“随机鹦鹉”的猜测在理论上得到了一定程度的批驳。“随机鹦鹉”达不到的高度仅在理论上进行说明是不充分的,因此研究人员还进行了两个实验,意图证明大模型在学习过程中已经抽象出了算法。第一个实验关于一道经典的农夫过河问题。一个农夫有一条船,和狼、羊、菜,农夫要把这3样东西运到河到另一边,农夫每次最多只能通过这个船运一样东西,要防止狼吃羊、羊吃白菜(即不能在没有农夫在的情况下同时在同一岸边),该怎么过?研究人员将这个问题中的农夫、船、河分别替换成地球人、虫洞和银河系。狼、羊和菜则分别换成火星人、金星人和月球人。替换的目的是因为互联网上不太可能出现类似语料,可以判断大语言模型是不是真的掌握了通用方法。如果GPT不是“随机鹦鹉”,那么它至少不会犯下只有“随机鹦鹉”才会犯的错误。GPT-4针对替换后的问题给出了正确的回答,GPT-3.5则没有。但它们并没有犯研究人员预想的“鹦鹉”错误——即在回答中出现狼、船、河等已被替换掉的词语。回答中使用的句子,也无法在互联网中被检索到。这些现象都证明了现在的大语言模型的生成方式已经超越了“概率预测”。第二个实验则是数字排序。如果让GPT学习数字排序,它们究竟是只会记住给出过的数字顺序,还是真的研究出排序算法呢?其实只要从GPT的输出当中就可以看出来了。假如从1-100中随机选择10个数字,并将其顺序打乱,将一共有这么多种情形:如果再考虑数字的重复出现,又或者数字的数量发生变化,根本不可能存储如此之多的情形。因此,只要GPT能够针对未知的排序问题给出正确的回答,便可以说明它们是真的研究出了排序算法。研究人员训练了一款特斯拉前AI总监Andrej Kaparthy发明的语言模型nanoGPT,专门让它做数字排序。结果显示,随着训练步数的增加,模型给出的数字顺序越来越完美。虽然在训练步数达到16万左右时突然出现了大量错误,但也很快得到了纠正。这说明这款模型并不是仅仅根据学习的素材对未知的数字进行排序,而是已经掌握了背后的方法。这个测试只是在一台笔记本电脑、算力非常有限的GPU上进行的。更不必说GPT-4了。参考链接:https://jbconsulting...

    智能设备 2023-05-27 16:02:19
  • 阿里达摩院:GPT-4替代年薪60万数据分析师只要几千块,论文已发

    阿里达摩院:GPT-4替代年薪60万数据分析师只要几千块,论文已发

    梦晨 发自 凹非寺量子位 | 公众号 QbitAIGPT-4替代初级数据分析师的成本只有0.71%,换成高级数据分析师则是0...

    智能设备 2023-05-27 16:02:14
  • 上市即破发,消费者对RadeonRX7600和RTX4060Ti显卡兴趣不大

    上市即破发,消费者对RadeonRX7600和RTX4060Ti显卡兴趣不大

    IT之家 5 月 27 日消息,Radeon RX 7600 和 GeForce RTX 4060 Ti 是两款针对中端市场的显卡,目前的销售数据来看,消费者对其没有太大的购买兴趣。根据国外多家媒体报道,海外市场消费者对于两款新显卡的需求很低,导致不少零售渠道降价促销。Radeon RX 7600 显卡上架销售首日,在西班牙的价格下降了 13%。CoolMod 电商在欧洲市场,首批销售华擎 Radeon RX 7600 Challenger OC 显卡,上架首日售价下调至 259.94 欧元,比官方建议零售价便宜 40 欧元。根据 3DCenter 公布的数据,该机构主要监控德国和奥地利市场显卡价格和需求,发现市场对 GeForce RTX 4060 Ti 显卡的需求很低,德国主要零售商 Mindfactory 将 Palit Dual 显卡的售价从 439 欧元下调至 419 欧元。在销售开始后的前 14 小时内,累计销量不到 100 片。日本市场上,GeForce RTX 4060 Ti 推出了更酷的 PC Gamer 版。根据 Hermitage Akihabara 提供的秋叶原数据,只有 2 家商店出售 PC Gamer 版本。 ...

    手机互联 2023-05-27 15:23:19

站长搜索

http://www.adminso.com

Copyright @ 2007~2024 All Rights Reserved.

Powered By 站长搜索

打开手机扫描上面的二维码打开手机版


使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

站长搜索目录系统技术支持