2026年4月底，加拿大多倫多大學計算機科學副教授David Duvenaud與合作者Alec Radford、status_effects等人共同發布了開源歷史大語言模型Talkie。呢款有130億參數嘅模型，完全基於1930年前出版嘅書籍、報紙同其他文本數據做訓練同微調，成為目前已知最大嘅「復古」大語言模型。佢可以用典型20世紀初嘅Mid-Atlantic口音同繁複文風對話，好似一位「困喺過去」嘅老派紳士。呢個項目好快引起AI社群注意，不單止因為佢獨特嘅語言風格，更因為佢為研究大語言模型（LLM）嘅知識邊界、時間泛化能力同科學發現潛力提供咗一個獨特嘅實驗平台。

Talkie冇系統提示詞（system prompt），研究者觀察到佢「基本上」唔知道自己係被限制喺1930年前嘅數據上，亦唔能夠好好內省自己嘅知識截止日期。呢樣令佢嘅輸出帶有好強嘅時代特色：用詞正式、句式冗長，經常出現「we do declare」（我哋鄭重聲明）呢啲老派表達，同時對現代事物表現得天真或者帶有預測性嘅觀點。

Talkie嘅核心原理：純歷史數據訓練同時間隔離

Talkie嘅訓練原理建立喺當代Transformer架構同大語言模型預訓練範式之上，但進行咗嚴格嘅時間數據隔離（temporal isolation）。研究團隊精心整理咗一個淨係包含1930年前文本嘅全新數據集，包括文學經典、新聞報導、科學論文同日常讀物等，避免任何1930年後內容嘅污染。

預訓練階段：模型透過自監督學習（next-token prediction）掌握大量歷史文本嘅統計模式、語法結構同文化語境。呢樣令佢自然學到20世紀初嘅英語風格，包括正式用語、年代特有嘅表達同當時嘅社會常識。

微調階段：針對對話能力做指令微調（instruction tuning），加強佢做聊天機械人嘅可用性，但仍嚴格保持數據純淨度。

呢個原理嘅關鍵在於知識截止與分布偏移（distribution shift）。現代LLM通常喺大量當代數據上訓練，容易產生「療癒式」（therapy-speak）或者中性風格。而Talkie透過硬性嘅時間截止，創造咗強烈嘅時代嵌入（temporal embedding），令佢嘅輸出高度一致於歷史語境。

有趣嘅係，模型仍然會出現「時間洩漏」（temporal leakage）現象，例如偶爾提及1933年後嘅事件。呢點反映咗大模型由數據泛化關聯嘅固有特性，即使訓練數據有截止，佢都可能透過模式推斷產生「事後之明」式嘅知識。

與早期AI理念嘅呼應：從機械自動機到語言模擬

Talkie並非憑空出現，佢喺概念上連繫咗AI漫長嘅前史。早喺古代，人類就透過自動機（automata）追求人工智能嘅夢想。古希臘神話入面赫淮斯托斯鍛造嘅金色機械人、希羅嘅自動裝置，以及中世紀煉金術對「人造人」（homunculus）嘅構想，都體現咗「賦予無生命物質智能」嘅古老渴望。

18至19世紀，機械自動機達到高峰：雅克·德·沃康松嘅消化鴨、皮埃爾·雅凯-德罗兹嘅自動書寫人偶，以及查爾斯·巴貝奇嘅分析機（Analytical Engine）。Ada Lovelace喺注釋入面預言，巴貝奇嘅機器可能「編織代數模式」，隱含咗「思考機器」嘅理念。20世紀初，邏輯學家如喬治·布爾、戈特弗里德·萊布尼茲嘅工作為符號推理奠基，而1936年阿蘭·圖靈提出嘅通用圖靈機，則喺理論上證明任何可計算過程都能被機械模擬。

Talkie嘅原理正係呢段漫長演進嘅現代延續：佢唔係模擬物理自動機，而係透過海量文本統計學習去模擬語言智能（linguistic intelligence）。同早期基於規則嘅符號AI唔同，Tal