
一、HRM的誕生與核心架構
2025年8月28日,Live Science報導,新加坡AI公司Sapient開發了一種名為層次推理模型(HRM)的新型人工智能模型,其設計模仿人腦不同区域在毫秒至分鐘時間尺度上整合信息的機制。相較於動辄數十億甚至萬億參數的ChatGPT等大型語言模型,HRM僅使用2700萬個參數和1000個訓練樣本,展現了更高的效率和性能。研究論文已於2025年6月26日上傳至arXiv預印本數據庫,尚未经过同行評審,但其開源代碼已在GitHub發布,供全球研究者驗證。
HRM的核心在於其獨特的層次化架構,包含两个相互依賴的模組:
- 高層模組:負責慢速、抽象的計劃,類似於人腦中的戰略決策。
- 低層模組:處理快速、詳盡的計算,類似人腦的即時反應。
與傳統LLMs依賴的鏈式推理(CoT,Chain‑of‑Thought)不同,HRM通過單次前向傳播執行順序推理任務,无需顯式監督中間步驟。這種“一次思考、多步精煉”的方法通過迭代優化(iterative refinement)提高答案準確性,每次“思考”會評估是否繼續優化或提交最终答案。這種機制使HRM在複雜推理任務中表現卓越,同時降低計算成本。
二、HRM的性能突破
Sapient研究團隊在ARC‑AGI基準測試中驗證了HRM的性能。ARC‑AGI被認為是評估AI接近通用人工智能(AGI)能力的嚴苛標準。測試結果顯示:
- ARC‑AGI‑1:HRM得分40.3%,超越OpenAI的o3‑mini‑high(34.5%)、Anthropic的Claude 3.7(21.2%)和Deepseek R1(15.8%)。
- ARC‑AGI‑2:HRM在更難的測試中得分5%,領先o3‑mini‑high(3%)、Deepseek R1(1.3%)和Claude 3.7(0.9%)。
此外,HRM在複雜數獨解題和迷宮最優路径尋找任務中接近完美表現,而傳統LLMs在這些任務中完全失敗(0%準確率)。這些成果得益於HRM的層次化設計,克服了CoT的三大缺陷:任務分解脆弱、數據需求高和延遲長。
三、顛覆傳統AI的創新點
傳統LLMs如ChatGPT依賴CoT,通過將複雜問題分解為簡單的自然語言步驟,模仿人類思維過程。然而,Sapient團隊在研究中指出,CoT存在“任務分解脆弱、數據需求巨大、推理延遲高”的局限。HRM通過模擬人腦的層次化處理,摒棄了CoT的文本分解方式,直接在模型的潛在空間(latent space)中進行推理。這種“沈默思考”模式无需生成中間文本,顯著提升效率。
HRM的訓練過程也極具創新。研究顯示,其性能提升主要來源於訓練中的“未充分記錄的精煉過程”,而非層次化架構本身。这一發現由ARC‑AGI基準測試團隊驗證,他们在復現結果時確認了HRM的優異表現,但指出架構對性能的直接影響有限。这一結論為AI研究提供了新思路:優化訓練方法可能比單純增加參數更有效。
四、行業反應與市場潛力
HRM的發布引發了科技界廣泛關注。X平台用戶@AIFanatic稱其為“推理AI的革命”,認為其高效設計將推動AI在資源受限環境(如邊緣設備、機器人)的應用。然而,部分研究者質疑其未經過同行評審,可能存在性能誇大風險。Live Science報導指出,ARC‑AGI團隊已經通過開源代碼驗證了HRM的結果,增強了其可信度。
HRM的潛力在於其數據效率和低計算需求。相比ChatGPT(估計3‑5萬億參數),HRM的2700萬參數使其適用于低功耗设备,如嵌入式系統和移動終端。在醫療診斷、氣候預測和機器人控制等領域,HRM可處理稀疏數據,實現高精度推理。Sapient計劃將其應用於稀有病診斷和次季節氣候預測,已經與醫療機構和氣候研究團隊合作,展現了廣泛的商業前景。
五、挑戰與未來展望
儘管HRM表現卓越,但面臨若干挑戰。首先,其推理過程發生在潛在空間,缺乏CoT的文本化中間步驟,導致可解釋性較差。研究團隊已經在論文中展示了部分任務的推理追蹤方法,但需進一步改進以滿足監管需求。其次,未經過同行評審的論文可能限制學術認可,Sapient需推動後續驗證。此外,HRM目前專注於邏輯推理,尚不具備LLMs的語言生成能力,未來需探索混合模型以覆蓋更广任務。
展望未來,HRM的層次化架構可能成為AI設計新范式。Sapient團隊表示正在進行新實驗,預計發布更高的ARC‑AGI分數。結合強化學習和神經科學,HRM有望向通用人工智能邁進,挑戰當前以規模為主的AI發展路径。
六、結論
Sapient的層次推理模型(HRM)以人腦啟發的設計,憑借2700萬個參數和1000個訓練樣本,在推理任務中超越ChatGPT等大型語言模型。其在ARC‑AGI基準測試、複雜數獨和迷宮路径尋找中的優異表現,展示了高效AI的新可能。HRM不僅挑戰了CoT推理的局限,还為資源受限場景提供了解決方案。儘管面臨可解釋性和驗證挑戰,其開源發布和潛在應用前景使其成為2025年AI領域的焦点。谷歌、OpenAI等巨頭需正視这一新兴架构,HRM或將重塑AI推理的未來。