2025年11月26日發表喺《Nature Communications》嘅論文《Temporal structure of natural language processing in the human brain corresponds to layered hierarchy of large language models》由以色列希伯來大學、普林斯頓大學、Google 研究團隊等多個機構合作完成。論文探討大型語言模型（LLMs）作為理解人類大腦語言處理嘅計算框架嘅潛力。唔同於傳統心理語言學模型依賴符號表示同層次樹狀結構，LLMs 透過連續數值向量（即嵌入）表示單詞及其上下文。呢啲嵌入經過模型嘅多層非線性變換構建，能夠生成複雜嘅語言結構。研究核心發現係：LLMs 嘅層級層次同人類大腦喺自然語言理解入面嘅時間動態高度對應，為 LLMs 作為人類語言認知模型提供新證據。
論文強調 LLMs 嘅三個基本原理：基於嵌入嘅上下文表示、下個詞預測，及基於錯誤修正嘅學習。呢啲原理喺腦成像同電生理學研究中都有神經對應。例如，上下文嵌入能有效預測大腦活動；下個詞預測喺大腦中表現為自發神經活動；意外詞會引發更高嘅神經反應。研究進一步擴展去考察 LLMs 嘅層級序列係咪同大腦嘅時間處理動態一致。透過電皮層電圖（ECoG）數據，作者展示咗 LLMs 層級同大腦語言區時間動態嘅對應關係。
方法論
研究收集咗9名癲癇患者嘅 ECoG 數據（其中7名喺預定感興趣區有電極），參與者收聽一段30分鐘嘅音頻播客（“Monkey in the Middle”，NPR 2017）。神經數據預處理為高γ頻段信號，以捕捉語言相關活動。作者使用 GPT‑2 XL 同 Llama‑2 作為代表性 LLMs，將播客文本輸入模型，提取每個詞喺所有層入面嘅上下文嵌入。
焦點腦區包括語言處理通路中嘅四個區域：中上顳回（mSTG，28個電極）、前上顳回（aSTG，13個電極）、下額回（IFG，46個電極）同顳極（TP，6個電極）。呢啲電極係基於先前對靜態嵌入（GloVe）嘅顯著編碼表現而揀選。作者訓練線性編碼模型，使用每層嘅嵌入去預測神經反應。性能指標係真實神經信號同模型預測信號之間嘅相關性。
為咗區分模型預測準確度，作者將詞分為“預測詞”（GPT‑2 XL 最高概率詞，1709個）同“非預測詞”（唔喺前5個概率內，1808個）。此外，作者比較咗 LLMs 同經典符號方法嘅表現，後者包括音素、詞素、句法同語義嘅符號表示。
主要結果
喺下額回（IFG，即 Broca 區），編碼結果顯示時間序列模式：早期嘅 LLM 層喺詞起始附近達到峰值編碼性能，後期層則喺時間上延遲。呢個發現表明 LLMs 嘅層級變換對應大腦嘅時序接收窗口，早期層處理即時資訊，後期層整合更長嘅上下文。呢種模式喺預測詞入面更明顯，說明 LLMs 嘅準確預測會增強同大腦動態嘅對應。
擴展到其他語言區，研究驗證咗語言處理層次嘅累積資訊：由聽覺區（mSTG）到句法語義區（IFG），時間接收窗口逐步延長。呢點複製咗神經科學上資訊沿語言通路累積嘅發現。中間層嵌入最能預測皮層活動，但 ECoG 嘅高時空解析度揭示咗層級同時間動態嘅精確對齊。
同符號方法比較，LLMs 喺預測大腦動態上顯著優越。符號表示（如音素樹或句法樹）未能捕捉時間序列，而 LLMs 嘅嵌入透過非線性層級更好地模擬神經反應。呢個結果支持 LLMs 作為更優認知模型嘅觀點。
研究亦複現咗先前發現：LLMs 中間層最能預測大腦活動，但本研究強調層級序列嘅時序對應。使用 Llama‑2 做泛化檢驗，確認呢種對應唔限於特定模型。
討論與意義
該研究主要貢獻包括：首先，提供證據顯示 LLMs 嘅層級計算序列可以建模 Broca 區語言理解嘅時間動態，暗示大腦嘅時間處理類似 LLMs 嘅層級進展。其次，喺多個語言區驗證模型，複製資訊沿層次累積嘅神經科學結果，支持 LLMs 建模大腦空間‑時間層次。第三，透過同符號方法比較，突顯 LLMs 嘅優勢，並為未來理論測試提供基準數據集。最後，公開對齊嘅神經同語言數據集，作為自由言語理解神經動態嘅公共資源。
局限性包括：數據污染可能影響 LLMs 表現（儘管使用咗付費材料）；基準測試只評估孤立知識，無法模擬現實不確定性；倫理同語義層面仍係 AI 嘅弱點。該研究為 LLMs 與其他語言理論（例如傳統符號模型或新興混合方法）嘅比較開咗條路。
總括嚟講，論文橋接咗 AI 同神經科學，表明 LLMs 唔單止係工程工具，仲係理解大腦語言處理嘅一種框架。未來研究可擴展到其他模態（如閱讀或語言產生），或者測試更多 LLMs（例如 GPT‑4 系列），進一步揭示人類認知機制。
▶️ 鍾意呢篇內容？創作真係好辛苦！
歡迎關注我哋嘅 YouTube 頻道：
AI Rosetta
你嘅讚好、訂閱同分享，係對我哋最大嘅支持！🙏
更多 AI 新聞請瀏覽：https://www.airosetta.com