2026年9月28日前後，一份由諾貝爾獎得主傑弗里·辛頓（Geoffrey Hinton）、圖靈獎得主約書亞·本吉奧（Yoshua Bengio）等逾20位人工智能領域權威聯署嘅報告正式發佈。報告題為《如果自動化 AI 研發觸發智能爆炸會點？》（What if automating AI R&D triggers an intelligence explosion?），聚焦「遞歸自我改進」（recursive self-improvement，RSI）可能帶來嘅急劇加速風險，呼籲各國政府同產業界盡快採取行動。

詳細情況

報告核心關注係：一旦 AI 系統能夠有效參與甚至主導自身嘅研發流程，技術進步可能由「以人為主導嘅線性節奏」轉變為「AI 驅動嘅指數加速」。作者將呢種情景稱為「智能爆炸」——本來需要數年先完成嘅 AI 能力飛躍，可能被壓縮到數個月甚至更短時間內出現。

報告指出，自動化 AI 研發（automating AI R&D）係最有可能觸發呢個過程嘅路徑。現時模型已喺一定程度上協助自身技術改進，包括代碼優化、實驗設計同算法探索；一旦系統達到「專家級 AI 研發能力」，組織理論上可以快速部署大量 AI「研究員」，其產出效率遠超人類團隊。報告估算，部分原本需要人類團隊數月完成嘅研發任務，有望喺2028年前後實現高度自動化。

署名作者陣容廣泛，既包括長期呼籲 AI 安全嘅辛頓與本吉奧，亦有來自一線實驗室嘅關鍵人物，如 OpenAI 首席科學家 Jakub Pachocki、Anthropic 聯合創辦人 Jack Clark，仲有微軟嘅 Eric Horvitz 等。呢種跨機構、跨立場嘅合作本身已經傳遞出強烈信號：對遞歸自我改進風險嘅擔憂，已由少數安全研究者擴展到更廣泛嘅技術同產業圈。

辛頓本人喺此前（約9月17日）向美國國會議員閉門簡報後公開表示：「AI 已經到咗能夠設計更好 AI 嘅階段……我哋稱之為遞歸自我改進。除非採取行動，否則佢會失控。我哋需要放慢速度。」佢判斷可用嚟實施有效監管嘅時間窗口可能只得大約一年。報告亦承認存在啲可能延緩爆炸嘅「摩擦力」，包括研究收益遞減、部分任務難以完全自動化，同埋算力限制，但認為現時趨勢已經令呢種情景由「遙遠假設」變成「值得認真準備嘅近期可能」。

可能影響

1. 政策與監管壓力上升

報告直接呼籲政治家「即刻行動」，而唔係等能力進一步躍升。呢點可能促使更多國家加快制定針對前沿模型研發嘅透明度、第三方評估同安全紅線要求。美國國會此前已就嵌入式第三方評估展開討論，報告會進一步強化相關立法呼聲。

2. 產業內部嘅節奏辯論加劇

OpenAI、Anthropic 等實驗室內部早已討論遞歸自我改進嘅時間表同風險。報告公開後，可能促使更多企業主動披露 AI 輔助研發嘅程度，並喺安全投入與能力競賽之間重新權衡。部分實驗室可能會更積極探索自願減速或設立更高安全門檻。

3. 研究與技術路線調整

如果智能爆炸成為主流擔憂，研究重點可能進一步傾向可驗證性、可控性、可中斷性。形式化驗證、對齊技術、長期監控同熔斷機制嘅投入預期會增加。同時，對「AI 是否已喺實質上改進自身」嘅實證評估會更受關注。

4. 國際競爭與安全困境

報告警告，智能爆炸可能嚴重削弱國家、企業與政府內部嘅制衡機制，令技術領先優勢迅速轉化為不對稱權力。如果主要國家未能協調節奏，可能出現