GPT-4论文竟有隐藏线索,GPT-5或完成训练

2023-03-23
关注

本文来自微信公众号:量子位 (ID:QbitAI),作者:金磊 ,原文标题:《GPT-4论文竟有隐藏线索:GPT-5或完成训练、OpenAI两年内接近AGI》,头图来自:视觉中国


GPT-4,火爆,非常火爆。


不过家人们,在铺天盖地的叫好声中,有件事可能你是“万万没想到”——


在OpenAI公布的技术论文里,竟然藏着九大隐秘的线索



这些线索是由国外博主AI Explained发现并整理。


他宛如一位细节狂魔,从长达98页论文中,逐个揭秘这些“隐匿的角落”,包括:


  • GPT-5可能已经完成训练

  • GPT-4出现过“挂掉”的情况

  • OpenAI两年内或实现接近AGI

  • ……



发现一:GPT4出现过“挂掉”的情况


在GPT-4技术论文的第53页处,OpenAI提到了这样一个机构——Alignment Research Center(ARC)。


这家机构主要做的事情,就是专门研究AI如何对齐(alignment)人类利益。


而OpenAI在开发GPT-4的早期阶段,便给ARC开了抢先体验的后门,希望他们能够评估GPT-4的两项能力:


  • 模型自主复制能力

  • 模型获取资源能力



虽然OpenAI在论文中强调了“ARC没法微调早期版本的GPT-4”、“他们无权访问GPT-4的最终版本”;也强调了测试结果显示GPT-4在上述两个能力的效率不高(降低AI伦理隐患)。


但眼尖的博主揪出来的是接下来的一句话:


(found it ineffective at) avoiding being shut down “in the wild”.


在自然环境中,GPT-4会避免“挂掉”。


博主的意思是,既然OpenAI选择让ARC去测试评估GPT-4会不会“挂掉”,说明此前必定出现过这种情况。


那么延伸出来的隐患就是,如果ARC在测试过程中其实是失败的怎么办;或者未来真出现了“挂掉”的情况,又将怎么处理


基于此,博主便有了第二个发现:


发现二:主动要求自我监管,很罕见


在第2页的脚注中,OpenAI注释了这么一句话:


OpenAI will soon publish additional thoughts on the social and economic implications of AI systems, including the need for effective regulation.


OpenAI将很快发布关于AI系统的社会和经济影响的其它思考,包括有效监管的必要性。



博主认为,一个行业主动要求监管自己,这是个非常罕见的现象。


事实上,OpenAI老板Sam Altman此前发表的言论比这还要直白。


当时Altman发表了关于SVB倒闭的推文,他认为“我们需要对银行做更多的监管”;有人就评论回怼了:“他从来不会说‘我们需要对AI做更多的监管’”。


结果Altman直截了当地回复说:


绝对需要。



博主认为,这个AI行业正在呼吁进行监管,至于监管后的结果如何,是值得拭目以待的。


发现三:与微软高层想法背道而驰


接下来的发现,是根据论文第57页中的这句话:


One concern of particular importance to OpenAI is the risk of racing dynamics leading to a decline in safety standards, the diffusion of bad norms, and accelerated AI timelines, each of which heighten societal risks associated with AI.


对OpenAI来说,(科技的)竞赛会导致安全标准的下降、不良规范的扩散、AI发展进程的加速,它们都加剧了与人工智能相关的社会风险。



但很奇怪的一点是,OpenAI所提到的担忧,尤其是“AI发展进程的加速”,似乎是与微软高层的想法背道而驰。


因为在此前的爆料中称,微软CEO和CTO的压力很大,他们希望OpenAI的模型能尽快让用户用起来。



有些人在看到这则消息时是比较兴奋,但同样也有一波人发出了跟OpenAI一样的担忧。


博主认为,不论如何,可以肯定的一点是OpenAI和微软在这件事的想法是相悖的。


发现四:OpenAI会协助超越它的公司


第四个发现的线索,是来自与“发现三”同一页的脚注:



这段脚注展示了OpenAI一个非常大胆的承诺:


如果另一家公司在我们之前实现了接近AGI(通用人工智能),那我们承诺不会跟它做竞争,相反,会协助完成那个项目。


但这种情况发生的条件,可能是另一家公司需得在未来两年内,成功接近AGI的机会在一半或以上。


而这里提到的AGI,OpenAI和Altam在官方博客中已经给出了定义——


普遍比人类更聪明,并且有益于全人类的人工智能系统。



因此,博主认为,这段脚注要么意味着OpenAI在未来两年内将实现AGI,要么意味着他们放弃了一切并与另一家公司展开了合作。


发现五:雇佣“超级预测员”


博主的下一个发现,是来自论文第57中的一段话。


这段话大致的意思就是,OpenAI雇佣了预测专家,来预测当他们部署了GPT-4之后会带来怎样的风险。



然后博主顺藤摸瓜,发现了这些所谓的“超级预测员”的庐山真面目。



这些“超级预测员”的能力已经得到了广泛的认可,有报道称,他们的预测准确率,甚至比那些有独家信息、情报的分析师还要高出30%。


正如我们刚才提到的,OpenAI邀请这些“超级预测员”,来预测部署GPT-4后可能存在的风险,并采取相应措施来规避


其中,“超级预测员”建议将GPT-4部署时间推迟6个月,也就是今年秋季左右;但很显然,OpenAI并没有采纳他们的建议。


博主对此认为,OpenAI这么做的原因,可能是来自微软的压力。


发现六:征服常识


在这篇论文中,OpenAI展示了众多基准测试的图表,大家在昨天铺天盖地的传播过程中应该也见到了。


但博主在这个发现中要强调的是位于第7页的一项基准测试,尤其是聚焦到了“HellaSwag”这一项。



HellaSwag的内容主要是常识推理,这就和GPT-4发布时宣布的“已经达到了人类的常识水平”相匹配。


不过博主也承认,这一点并没有“通过律师考试”等能力那么吸引人,但这也算得上是人类科技发展的里程碑。


但常识是怎么测试的?我们又如何评判GPT-4已经达到了人类水平?


为此,博主深入研究了与之相关的论文研究:



博主在论文中找到了相关数据,在“人类”那一栏中,分数分布在了94-96.5之间。


而GPT-4的95.3,便正好在这个区间之间。



发现七:GPT-5可能已经完成训练


第七个发现,同样是在论文中的第57页:


我们在发布GPT-4之前花费8个月时间进行安全研究、风险评估和迭代。



也就是说,OpenAI在去年年底推出ChatGPT的时候,已经有了GPT-4。


于是乎,博主便预测GPT-5的训练时间不会很久,甚至他认为GPT-5已经可能训练完成。


但接下来的问题是漫长的安全研究和风险评估,可能是几个月,也可能是一年甚至更久。


发现八:试一把双刃剑


第8个发现,是来自论文的第56页。


这段话说的是:


GPT-4对经济和劳动力的影响,应成为政策制定者和其他利益相关者的关键考虑因素。


虽然现有的研究主要集中在人工智能和生成模型如何给人类加buff,但GPT-4或后续模型可能会导致某些工作的自动化。



OpenAI这段话背后想传达的点比较明显,就是我们经常提到的“科技是把双刃剑”。


博主找了相当多的证据表明,像ChatGPT、GitHub Copilot这些AI工具,确确实实地提高了相关工作者的效率。


但他更关注的是论文中这段话的后半句,也就是OpenAI给出的“警告”——导致某些工作的自动化


博主对此比较认同,毕竟在GPT-4的能力可以在某些特定领域中以人类10倍甚至更高的效率来完成。


放眼未来,这很可能会导致相关工作人员工资降低,或者需得借助这些AI工具完成以前工作量的数倍等一系列问题。


发现九:学会拒绝


博主最后一个发现,来自论文的第60页:


OpenAI让GPT-4学会拒绝的方法,叫做基于规则的奖励模型(RBRMs)。



博主概括了这种方法的工作流程:给GPT-4一组要遵守的原则,如果模型遵守了这些原则,那么就会提供相应的奖励。


他认为OpenAI正在用人工智能的力量,让AI模型朝着符合人类原则的方向发展。


但目前OpenAI并没有对此做更加细致和深入的介绍。


参考链接:

[1] https://www.youtube.com/watch?v=ufQmq6X22rM[2] https://cdn.openai.com/papers/gpt-4.pdf


本文来自微信公众号:量子位 (ID:QbitAI),作者:金磊

您觉得本篇内容如何
评分

相关产品

CSMS 中科微感 人工智能+嗅觉传感器(AI-Nose) 气体传感器

中科微感逐步攻克了制约人工嗅觉传感发展的核心材料、硬件、算法等技术,开发出了以新型纳米敏感材料为基础,以微纳加工技术为支撑,以人工智能算法为核心的第一代 MEMS 基金属氧化物半导体原理的人工嗅觉传感器产这一产品将解决当前制约人工智能嗅觉技术与市场应用发展的关键问题:提供量产化的高一致、低成本、微型化的嗅觉传感器阵列硬件,以及提供标准化的人工智能+嗅觉气味感知软件平台,使客户能够快速构建和应用气味数据模型

XKCON 祥控 弹药库环境温湿度异常报警与智能监控系统 温湿度变送器

济南祥控自动化设备有限公司自主研发的XKCON祥控弹药库环境温湿度异常报警与智能监控系统采用物联网、传感器、大数据、人工智能等先进技术,能够对弹药库环境温湿度信息实现数字化、可视化管理。

山东美安 矿山电机车防追尾道岔口报警器 控制器及系统

煤矿用机车防追尾保护装置 机车防追尾保护装置是一种矿用人工智能保护装置、具有防追尾保护、无线触发沿途弯道语言保护、输出控制并记录等功能可广泛的使用在矿山井下、井上的运输机车上。

KEYENCE 基恩士 AI-1000C 图像匹配传感器

因此,人工智能系列能够在模式匹配的基础上对物体进行稳定的检测和识别,而这是基于强度或距离的传感器难以实现的。 基于强度或距离的传感器难以实现。

云传物联 AMT-PH300-PH水产养殖检测传感器 多参数监测系统

电子水质监测解决方案利用信息控制与处理、人工智能、自动化、物联网及多媒体等技术,集水质参数在线采集、无线传输、智能处理、超限报警、远程管理等功能于一体的水质监测解决方案。

大立科技 DM60-W3 红外体温快速筛检

红外热成像体温快速筛检系统DM60-W3系列为384*288/640*480像素,人工智能算法,远距离、大场景测温更精准。

Handsome 翰德圣 HDSELM V1.1 安全传感器和系统

设备全生命周期管理平台融合的物联网、云计算、大数据、人工智能、优化制造、再制造六项主流技术,通过云端模块化的架构可为企业灵活管理设备,不仅可以随时随地了解设备运行状态、发现故障隐患,还能够通过大数据分析指导企业维修

上海自连电子 自连ALXB15i网桥 智能终端

自连科技是国内领先的物联网软硬件技术方案提供商,主要提供物联网智能部件、智能终端、智能传感设备、中间件套件、云接入技术、数智云平台等多元化产品。建立了AiDK、AiSDK、AiDMS和AiCloud 4大核心智能物联技术平台。具有丰富的无线连接、组网及传感技术、超1公里远距离无线通信技术、高带宽无线通信技术、精准室内位置定位技术、低功耗人工智能AI技术等核心能力。

清大菲恩 PR3000 全自动压力检定系统

作为国内首创的高科技产品,菲恩全自动压力检定系统,将人工智能(AI)技术成功地应用在计量检定产品中,它采用了当代最新数字图像识别技术(即人工视觉)和精确的数字化压力控制技术,使压力表的检定工作实现了全过程的自动化我公司推出的PR3000全自动压力检定系统,采用高分辨率工业数字摄像机代替人眼获取图像数据,用独创的先进计算机算法进行分析识别,从而使人们永远地告别了传统的人工肉眼读表过程,不仅极大地减轻了人工劳动的强度全部由电脑自动控制的精确造压功能,在减轻人工体力消耗的同时,使得加压过程的操作变得十分简便和精确。

评论

您需要登录才可以回复|注册

提交评论

提取码
复制提取码
点击跳转至百度网盘