到咗 2025 年底，大語言模型（LLM）已經由科研前沿技術，成長為全球數碼經濟最重要嘅基礎設施之一。無論喺醫療影像輔助診斷、法律諮詢、企業客服、辦公自動化，定喺智能助理、AI 編程助理等範疇，LLM 都喺快速滲透。但當行業由「產品試驗期」進入「規模化應用期」，技術嘅光環開始同現實嘅阻力正面相遇。

回顧全球 AI 行業觀察、機構報告與一線開發實踐，可以發現：到 2025 年底，大模型應用仍然存在十個核心難題。呢啲問題唔單止係工程挑戰，亦牽動倫理、經濟同治理體系嘅深層變革。

一、幻覺問題仍未根治

即使推理模型同 RAG 技術不斷演進，LLM 依然會出現「自信咁編造事實」嘅幻覺輸出。

尤其喺：

• 醫療診斷
• 法律分析
• 專業科研寫作

等場景，錯誤已唔再只係「體驗問題」，而可能演化成風險事件。

工程師普遍承認：

目前仲未有一種通用方法能夠喺保證流暢生成嘅同時徹底消滅幻覺。

呢個意味住：

✔ LLM 唔可以被視為「真相機器」

✔ 人類仍然必須承擔最終判斷責任

二、推理成本仍然好高

訓練成本嘅重要性正在下降，而推理成本成為商業模式最大壓力。

就算：

• MoE 降低平均算力
• 模型壓縮與量化成熟
• 雲服務價格競爭激烈

但現實依然係：

💰 企業月度推理賬單驚人

💡 本地化部署門檻依然極高

🌏 數據中心能耗成為社會議題

LLM 越「聰明」，企業就越需要衡量 ROI。

算力，正正在取代石油成為新嘅戰略資源。

三、私隱安全與數據洩露擔憂持續上升

企業用戶最關心嘅問題係：

我嘅數據係咪真係只屬於我？

現實風險包括：

• 模型反演攻擊
• 多租戶洩露
• 訓練日誌追溯風險
• 提示詞誘導洩密

尤其喺：

🏦 金融

🏥 醫療

⚖ 政府

領域，風險容忍度極低，呢啲亦推動咗私有化同主權 AI 嘅興起。

四、複雜推理仍然唔穩定

2025 年被稱為「推理模型年」，但當任務鏈路超過十步以上時，模型仍可能出現：

• 中途邏輯漂移
• 關鍵約束忘記
• 早期假設被誤用

呢個意味住：

LLM 唔係確定性系統

軟件工程師無法完全似管理傳統系統咁管理佢，呢點為生產系統帶嚟持續不確定性。

五、AI Agent 自主行為風險暴露

到 2025 年，智能體（AI Agent）成為 AI 落地最大嘅熱點之一。

AI 已能夠：

✔ 自動下單

✔ 運行腳本

✔ 讀寫數據庫

✔ 與系統實時互動

但風險同步上升：

⚠️ 錯誤交易

⚠️ 數據誤刪

⚠️ 越權訪問

⚠️ 自動執行不可逆行為

「AI 應唔應該有行動權？」成為技術倫理嘅焦點問題。

六、模型能力漂移成為工程痛點

企業開發團隊發現：

• 相同 prompt 得到唔同輸出
• 新版本模型出現「退化」
• UI 層邏輯隨 API 變化被迫重寫

換句話講：

AI 服務唔似數據庫，倒更似情緒化嘅合作者。

呢個亦催生咗 LLMOps 成為新興工程學分支。

七、監管體系日益複雜

2025 年嘅 AI 世界已經唔再係「先做後規範」。

全球進入：

📜 重合規時代

唔同地區監管要求差異巨大：

🇪🇺 歐盟 AI 法案

🇨🇳 生成式 AI 管理規範

🇺🇸 州級法律框架

🇯🇵 版權嚴格限制

企業需要：

⚖ 法務團隊

⚙ 數據治理

🛡 風險評估

全球化 AI 部署正喺放慢

八、提示詞攻擊升級為系統安全問題

由早期嘅「忽略之前嘅指令」到而家嘅：

🧠 間接注入

🌐 網頁誘導

🖼 圖片隱寫

🎧 多模態攻擊

LLM 好難似傳統系統咁簡單隔離風險。

提示詞安全已經成為網絡安全新戰線。

九、知識更新仍非原生能力

雖然搜尋增強廣泛應用，但 LLM 仍然：

📌 依賴訓練時間點

📌 無法自動更新世界知識

📌 對最新法規 / 財報掌握滯後

因此：

🔍 企業必須部署知識庫系統

🔍 RAG 管理成為標配

🔍 數據治理成為剛需

而系統複雜度顯著提升。

十、AI 生成內容污染互聯網

到 2025 年互聯網上：

📉 AI 低質量內容暴增

📉 SEO 生態被改寫

📉 訓練數據質量下降

最大擔憂係：

AI 訓練 AI

互聯網失去「真實樣本」

Model Collapse（模型退化）

成為長期系統性風險。

深層判斷：2025 係 AI 嘅「工程陣痛年」

如果話：

✨ 2023 係 AI 奇蹟元年

💡 2024 係商業化起步年

咁

🛠 2025 年就係 工程陣痛年

LLM 已由玩具變成重型工業級工具，但行業需要補齊：

• 標準
• 控制
• 安全
• 法律
• 經濟模型

未來方向：由「強模型」走向「可信系統」

可以預見，2026⁠–⁠2027 年行業重心將轉向：

✔ LLMOps

✔ AI 信任與安全架構（TRiSM）

✔ 可驗證推理

✔ 私有化模型

✔ 多模型協作

✔ 細模型與大模型並行

而一個愈來愈清晰嘅趨勢係：

AI 唔會取代人類

但將成為不可分割嘅「智能基礎設施」

問題並唔代表退潮，反而證明⁠—⁠⁠—⁠

AI 正進入工業革命嘅嚴肅階段。

▶️ 鍾意呢篇內容？創作真係好辛苦！

歡迎關注我哋嘅 YouTube 頻道：
AI Rosetta

你嘅讚好、訂閱同分享，係對我哋最大嘅支持！🙏

更多 AI 新聞請訪問：https://www.airosetta.com