2026年9月28日前后，一份由诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）、图灵奖得主约书亚·本吉奥（Yoshua Bengio）等超过20位人工智能领域权威共同署名的报告正式发布。报告题为《如果自动化AI研发触发智能爆炸会怎样？》（What if automating AI R&D triggers an intelligence explosion?），聚焦“递归自我改进”（recursive self-improvement， RSI）可能带来的急剧加速风险，呼吁各国政府与产业界尽快采取行动。

详细情况

报告核心关切是：一旦AI系统能够有效参与甚至主导自身的研发流程，技术进步可能从“人类主导的线性节奏”转变为“AI驱动的指数加速”。作者将这种情景称为“智能爆炸”——原本需要数年才能完成的AI能力跃升，可能被压缩至数月甚至更短。

报告指出，自动化AI研发（automating AI R&D）是最可能触发这一进程的路径。当前模型已在一定程度上辅助自身技术的改进，包括代码优化、实验设计与算法探索；一旦系统达到“专家级AI研发能力”，组织理论上可快速部署海量AI“研究员”，其产出效率远超人类团队。报告估算，部分原本需要人类团队数月完成的研发任务，有望在2028年前后实现高度自动化。

署名作者阵容广泛，既包括长期呼吁AI安全的辛顿与本吉奥，也有来自一线实验室的关键人物，如OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark，以及微软的Eric Horvitz等。这种跨机构、跨立场的合作本身就传递出强烈信号：对递归自我改进风险的担忧，已从少数安全研究者扩展到更广泛的技术与产业圈层。

辛顿本人在此前（约9月17日）向美国国会议员闭门简报后公开表示：“AI已经到了能设计更好AI的阶段……我们称之为递归自我改进。除非采取行动，否则它将失控。我们需要放慢速度。”他判断留给有效监管的时间窗口可能只有大约一年。报告也承认存在可能延缓爆炸的“摩擦力”，包括研究收益递减、部分任务难以完全自动化，以及算力限制，但认为当前趋势已使这一情景从“遥远假设”变为“值得认真准备的近期可能”。

可能影响

1. 政策与监管压力上升

报告直接呼吁政治家“现在就行动”，而非等待能力进一步跃升。这可能推动更多国家加速制定针对前沿模型研发的透明度、第三方评估与安全红线要求。美国国会此前已就嵌入式第三方评估展开讨论，报告将进一步强化相关立法呼声。

2. 产业内部的节奏辩论加剧

OpenAI、Anthropic等实验室内部早已讨论递归自我改进的时间表与风险。报告的公开，可能促使更多企业主动披露AI辅助研发的程度，并在安全投入与能力竞赛之间重新权衡。部分实验室可能更积极探索自愿减速或设立更高安全门槛。

3. 研究与技术路线调整

若智能爆炸成为主流担忧，研究重点可能进一步向可验证性、可控性、可中断性倾斜。形式化验证、对齐技术、长期监控与熔断机制的投入预计增加。同时，对“AI是否已在实质性改进自身”的实证评估将更受关注。

4. 国际竞争与安全困境

报告警告，智能爆炸可能严重削弱国家、企业与政府内部的制衡机制，使技术领先优势迅速转化为不对称权力。若主要国家未能协调节奏，可能出现“安全困境”——各方因担心对方领先而不愿