前言
如果話 2023 年係生成式 AI 嘅「奇蹟元年」，2024 年係「應用探索年」，咁到咗 2025 年底，大語言模型（LLM）正處於一場深刻嘅「工程化陣痛期」。
截至 2025 年 12 月，儘管 OpenAI 嘅 o1 系列、Google 嘅 Gemini 3.0 以及中國深度求索（DeepSeek）嘅 R1 系列喺推理能力同多模態互動上實現咗跨越式突破，但當我哋嘗試將呢啲「超級大腦」植入複雜嘅商業齒輪時，依然發現「最後一公里」嘅鴻溝深邃。根據 Gartner 2025 AI 趨勢報告、MIT 技術評論同各大開發者社群嘅綜合反饋，LLM 喺實際落地中仍然面對以下十大核心挑戰。
一、 幻覺嘅「頑疾」：由概率生成到真實理解嘅斷層
儘管 RAG（檢索增強生成）同知識圖譜技術已成為標配，但「幻覺」依然係 LLM 最頑固嘅標籤。2025 年嘅推理模型透過思維鍊（CoT）降低咗部分邏輯錯誤，但喺處理醫療診斷、司法判例、尖端科研等零容錯場景時，幻覺率依然維持喺 15%‑20% 嘅高位。呢種基於概率預測嘅機制本質上缺乏對物理世界嘅真實理解。當模型面臨「知識空白」或「長尾數據」時，佢往往會以高度自信編造虛假事實。呢種「一本正經噉胡扯」唔單止消解用戶信任，更成為 LLM 深入核心業務系統最大嘅阻礙。
二、 算力經濟學：高昂推理成本與商業回報嘅博弈
2025 年，企業界經歷咗一場冷酷嘅「GenAI 帳單洗禮」。雖然 MoE（混合專家模型）架構大幅降低咗單位 token 嘅推理價格，但隨住企業應用由「試點」轉向「全員部署」，算力消耗仍然呈指數級增長。好多 CIO 發現，高端模型（如 GPT‑5 或 Claude 4 級別）嘅部署成本甚至超過佢帶來嘅效率增量。目前，全球 AI 推理嘅計算量已相當於中等國家嘅能源消耗水平。喺「模型效果」同「盈利能力」之間，企業仍處於艱難嘅平衡點，大量 GenAI 項目因缺乏明確 ROI（投資回報率）而喺生產邊緣徘徊。
三、 代理式 AI 嘅自主權困境：當「智能體」失去控制
2025 年係「Agentic AI（智能體）」嘅爆發年。AI 唔再只係對話框，而係有 API 調用權、能夠自主規劃多步任務嘅數碼員工。然而，呢種「行動權」嘅賦予帶嚟前所未有嘅安全風險。一個失控嘅 Agent 可能因為誤解指令而刪除生產環境數據庫、發出錯誤嘅金融交易指令，甚至喺未經授權嘅情況下訪問公司敏感資產。點樣為具備自主性嘅 AI 著上「束縛衣」，建立可靠嘅監控同熔斷機制，係 2025 年底開發者面對嘅最緊迫工程難題。
四、 數據私隱與「跨租戶」外洩：CIO 嘅午夜惡夢
數據私隱風險喺 2025 年變得更加隱蔽。企業喺利用私有數據微調或透過 RAG 增強模型能力時，面臨住「成員推理攻擊」等新威脅——黑客或惡意內部人員可能透過特定提示詞，誘導模型洩露訓練集中包含嘅個人身份資訊（PII）或核心商業機密。喺雲端託管環境下，點樣確保大模型唔會出現「跨租戶」嘅數據污染，點樣喺大規模推理中實現真實意義上嘅私隱保護計算，依然缺乏工業級嘅完美方案。
五、 複雜邏輯推理嘅「翻車」：長鏈路任務中嘅蝴蝶效應
雖然 o1 等模型引入咗推理時間擴展技術，但喺處理超過 10 步以上嘅超長邏輯鏈條（例如複雜嘅跨國稅務審計、大規模軟件系統重構）時，LLM 表現出明顯嘅「脆弱性」。由於模型生成嘅每一步都有極細嘅概率偏差，呢啲微小錯誤會喺長鏈路任務中不斷累積，最終產生「蝴蝶效應」導致任務徹底失敗。呢種邏輯上嘅不穩定性，令 AI 好難喺冇人類嚴密監督下獨立處理複雜專業流程。
六、 模型漂移與「能力退化」：不確定嘅生產環境
對開發者嚟講，2025 年最頭痛嘅問題莫過於「模型漂移（Model Drift）」。隨住模型供應商頻繁進行增量微調同安全對齊，模型喺特定任務上嘅表現會突然發生不可預測嘅改變。本來穩定嘅 JSON 輸出格式可能突然失效，本來擅長嘅特定領域編程能力可能喺更新後退化。呢種非確定性（Non‑determinism）令構建穩定、可規模化嘅生產級應用變得異常困難，LLMOps（大模型運維）嘅複雜性遠超傳統軟件開發。
七、 全球監管嘅割裂：合規成本嘅「柏林牆」
隨住《歐盟 AI 法案》全面實施，以及中美等國針對 AI 安全嘅行政令細化，2025 年底 AI 應用面對高度碎片化嘅法務環境。開發者必須針對唔同地區度身訂造唔同嘅合規方案：由數據主權嘅本地化存儲，到生成內容嘅版權浮水印聲明，再到算法透明度審計。呢種「合規溢價」大幅增加咗企業全球化部署嘅門檻，甚至導致部分先進模型喺特定區域無法上線。
八、 提示詞攻擊嘅進化：由簡單「越獄」到「間接注入」
傳統嘅提示詞工程防禦喺 2025 年已顯疲態。黑客開始利用「間接提示詞注入（Indirect Prompt Injection）」發起攻擊——透過喺模型掃描嘅網頁內容、電郵或上傳圖像中埋入隱藏指令。當用戶叫 AI 摘要網頁時，隱藏指令會被激活並誘導 AI 窃取當前會話嘅 Cookie 或發送詐騙郵件。隨住模型多模態能力增強，攻擊向量成倍增加，而防禦手段仍處於「頭痛醫頭」嘅被動狀態。
九、 評估基準嘅失效：高分低能嘅「刷榜」現象
2025 年，傳統嘅 AI 評估基準（例如 MMLU、GSM8K）已出現嚴重嘅「數據污染」。模型喺測試集上幾乎滿分，但喺實際應用中表現平平，呢種「高分低能」現象引發業界對評估體系嘅集體質疑。現有評估體系無法衡量模型喺動態多模態環境下嘅泛化能力，亦無法準確預測模型喺特定垂直領域（例如中醫藥、金融風控）嘅實戰效果。缺乏客觀、多維嘅「度量衡」，令企業喺選型時如霧裏看花。
十、 AI 垃圾與「內容質量崩潰」：生態系統嘅反噬
到 2025 年底，互聯網已充斥大量由 AI 生成嘅低質、同質化內容（被諷刺地稱為「Slop」）。呢唔單止導致用戶對數碼內容嘅「信任通脹」，更引發更深層嘅危機——模型崩潰（Model Collapse）。當未來嘅 AI 模型開始大規模學習呢啲「AI 生成嘅垃圾」而唔係人類真實創作嘅數據時，其邏輯能力同多樣性會迅速枯竭。呢種因為 AI 自我循環導致嘅生態污染，正從源頭威脅住 LLM 嘅可持續進化。
展望 2026：由「瘋狂進化」到「負責任嘅普惠」
綜上所述，2025 年底嘅 LLM 市場正經歷一場「炒作修正」。呢啲挑戰嘅集中爆發並唔代表 AI 衰落，反而標誌住 AI 正喺由「識寫詩嘅玩具」轉變成「需要安全帶嘅重型工具」。
展望 2026 年，行業重心將由單純追求模型參數規模，轉向以下三個關鍵維度：
- 負責任嘅 AI（Responsible AI）： 強調治理框架、倫理邊界與可解釋性。
- 效能優化： 透過小模型協同、端側部署與知識圖譜融合，實現更好嘅 ROI。
- 信任架構： 推廣 TRiSM（信任、風險同安全管理）框架，將安全嵌入 AI 開發嘅全生命週期。
只有穿過「工程化陣痛」嘅窄門，大語言模型先至可以真正擺脫幻覺與質疑，成為重塑人類文明底層嘅核心生產力。
本報道綜合參考資料：
- Gartner 2025 Top Strategic Technology Trends
- MIT Technology Review: The State of AI 2025
- Sebastian Raschka: 2025 LLM State of the Union Report
- DeepSeek & OpenAI 2025 Technical Whitepapers
▶️ 鍾意呢篇內容？創作真係好辛苦！
歡迎關注我哋嘅 YouTube 頻道：
AI Rosetta
你嘅讚好、訂閱同分享，係對我哋最大嘅支持！🙏
更多 AI 新聞請瀏覽： https://www.airosetta.com