GPT-4 论文隐藏线索：GPT-5 或完成训练、OpenAI 两年内接近 AGI

GPT-4，火爆，非常火爆。

不过家人们，在铺天盖地的叫好声中，有件事可能你是“万万没想到”——

在 OpenAI 公布的技术论文里，竟然藏着九大隐秘的线索！

这些线索是由国外博主 AI Explained 发现并整理。

他宛如一位细节狂魔，从长达 98 页论文中，逐个揭秘这些“隐匿的角落”，包括：

GPT-5 可能已经完成训练
GPT-4 出现过自己“挂掉”的情况
OpenAI 两年内或实现接近 AGI
……

发现一：GPT4 出现过自己“挂掉”的情况

在 GPT-4 技术论文的第 53 页处，OpenAI 提到了这样一个机构 ——Alignment Research Center（ARC）。

这家机构主要做的事情，就是专门研究 AI 如何对齐（alignment）人类利益。

而 OpenAI 在开发 GPT-4 的早期阶段，便给 ARC 开了抢先体验的后门，希望他们能够评估 GPT-4 的两项能力：

模型自主复制能力
模型获取资源能力

虽然 OpenAI 在论文中强调了“ARC 没法微调早期版本的 GPT-4”、“他们无权访问 GPT-4 的最终版本”；也强调了测试结果显示 GPT-4 在上述两个能力的效率不高（降低 AI 伦理隐患）。

但眼尖的博主揪出来的是接下来的一句话：

(found it ineffective at) avoiding being shut down “in the wild”.

在自然环境中，GPT-4 会避免自己“挂掉”。

博主的意思是，既然 OpenAI 选择让 ARC 去测试评估 GPT-4 会不会主动避免自己被“挂掉”，说明此前必定出现过这种情况。

那么延伸出来的隐患就是，如果 ARC 在测试过程中其实是失败的怎么办；或者未来真出现了自己“挂掉”的情况，又将怎么处理。

基于此，博主便有了第二个发现：

发现二：主动要求自我监管，很罕见

在第 2 页的脚注中，OpenAI 注释了这么一句话：

OpenAI will soon publish additional thoughts on the social and economic implications of AI systems, including the need for effective regulation.

OpenAI 将很快发布关于 AI 系统的社会和经济影响的其它思考，包括有效监管的必要性。

博主认为，一个行业主动要求监管自己，这是个非常罕见的现象。

事实上，OpenAI 老板 Sam Altman 此前发表的言论比这还要直白。

当时 Altman 发表了关于 SVB 倒闭的推文，他认为“我们需要对银行做更多的监管”；有人就评论回怼了：“他从来不会说‘我们需要对 AI 做更多的监管’”。

结果 Altman 直截了当的回复说：

绝对需要。

博主认为，这个 AI 行业正在呼吁进行监管，至于监管后的结果如何，是值得拭目以待的。

发现三：与微软高层想法背道而驰

接下来的发现，是根据论文第 57 页中的这句话：

One concern of particular importance to OpenAI is the risk of racing dynamics leading to a decline in safety standards, the diffusion of bad norms, and accelerated AI timelines, each of which heighten societal risks associated with AI.

对 OpenAI 来说，（科技的）竞赛会导致安全标准的下降、不良规范的扩散、AI 发展进程的加速，它们都加剧了与人工智能相关的社会风险。