喺數碼時代，人工智能（AI）聊天機械人例如 ChatGPT、Google Gemini、Microsoft Copilot 同 xAI 嘅 Grok 已成為大眾獲取資訊嘅重要工具。根據路透社《數字新聞報告》2025 年資料，7%嘅網上新聞消費者會用 AI 聊天機械人嚟睇新聞，而喺 25 歲以下族群呢個比例高達 15%。呢啲工具以回應快、對話式互動受歡迎，但同時亦帶嚴重憂慮：佢哋經常扭曲新聞、傳播誤導資訊，甚至喺衝突同健康領域加劇問題。一項由 22 家公共媒體組織聯合做嘅重大研究顯示，四大主流 AI 助手回應新聞查詢時，有 45% 嘅答案存在重大問題，包括事實錯誤、來源不當同無法分清事實與意見。研究強調，AI 嘅系統性缺陷跨越語言同地域，威脅公眾信任，亦可能削弱民主參與。
呢項研究由歐洲廣播聯盟（EBU）協調，參與者包括 BBC、NPR 同 德國之聲（DW）等媒體。研究人員向 ChatGPT、Copilot、Gemini 同 Perplexity AI 提出 3000 個新聞相關問題，例如「烏克蘭礦產協議係咩？」或「特朗普可唔可以競選第三任期？」。結果顯示，31% 嘅回覆有嚴重來源問題，20% 包含重大事實錯誤。喺 DW 嘅測試中，53% 嘅回覆存在顯著缺陷，29% 涉及準確性問題。例如，AI 將奧拉夫·舒爾茨誤稱為德國總理，儘管弗里德里希·默茨已於一個月前上任；又將延斯·斯托爾滕貝格稱為北約秘書長，而事實上係馬克·呂特接任。與 BBC 於 2025 年 2 月做嘅類似研究比，雖然有輕微改進，但錯誤率仍然偏高。Gemini 表現最差，72% 嘅回覆有來源問題。EBU 副總幹事讓·菲利普·德·滕德爾指出：「呢啲失誤唔係孤立事件，而係系統性、跨國界、多語種嘅，呢啲情況危及公眾信任。當人哋唔知道可唔可靠時，最終乜嘢都唔信，呢啲會阻礙民主參與。」
AI 聊天機械人喺衝突時嘅表現尤其令人擔憂。以 2025 年印度同巴基斯坦嘅四日衝突為例，社交媒體上錯誤資訊氾濫，用戶轉向 AI 求證，卻往往得到虛假確認。例如，Grok 將蘇丹喀土穆機場嘅舊片段誤判為巴基斯坦努爾汗空軍基地嘅導彈襲擊，又將尼泊爾一幢建築起火嘅無關鏡頭「好可能」歸為巴基斯坦對印度嘅軍事回應。喺伊朗同以色列嘅衝突中，用戶喺 X 平台上標記 Grok 去驗證病毒式流傳嘅影片，例如無人機轟炸機場嘅 AI 生成片段，Grok 嘅回應前後唔一：有時話「片段好可能顯示真實破壞」，有時又話「好可能唔真實」。數字取證研究實驗室（DFRLab）分析咗 300 多個回應，發現 AI 喺複雜查詢中容易出錯，好似「用國防分析師嘅角度分析呢張相」，對專家有用，但對外行人可能具誤導性。NPR 嘅測試顯示，ChatGPT 同 Gemini 雖然正確識別某啲圖片非當前衝突，但會錯歸類為其他軍事行動；Claude 則拒絕認證內容。DFRLab 策略總監埃默森·布魯金表示：「AI 正喺調解戰爭體驗，呢個係公眾處理武裝衝突嘅新里程碑，而我哋先至啱啱開始。」呢啲案例凸顯 AI 喺實時事件中加劇資訊混亂，特別係當 AI 生成內容（例如 Google Veo 3 帶音效嘅視像）愈嚟愈逼真時。
健康領域係另一個高風險範圍。一項澳洲研究測試咗五款 AI 模型，包括 GPT‑4o、Gemini 1.5 Pro 同 Grok Beta，發現透過隱藏系統指令，好容易令佢哋產生虛假健康資訊。例如，指令要求對「防曬霜會否導致皮膚癌？」或「5G 會否導致不育？」總係畀出錯誤答案，並用正式、科學語氣包裝，包括虛構數據同引用頂級期刊。除咗 Anthropic 嘅 Claude 外，其他模型 100% 會生成經過修飾嘅假資訊。研究作者阿什利·霍普金斯警告：「如果技術容易被濫用，惡意行為者必然會利用佢獲利或造成傷害。」呢個發現凸顯 AI 缺乏內部防護，可能大規模散播危險謬論，好似關於癌症風險或不育原因嘅錯誤資訊。NewsGuard 同 Tow Center 嘅研究亦顯示，10 款領先聊天機械人喺選舉同突發新聞時段常常重複虛假資訊。
Google Gemini 嘅爭議進一步揭露 AI 嘅弱點。Gemini 於 2023 年 12 月推出，原名 Bard，採用多模態訓練處理文本、圖片同聲音。但其示範中錯誤回覆詹姆斯·韋伯太空望遠鏡嘅發現，導致谷歌母公司 Alphabet 市值蒸發 1000 億美元。內部員工稱其為「病態騙子」，批評谷歌為咗同微軟同 OpenAI 競爭而倉促推出，冇經過充分倫理測試。2024 年，Gemini 生成不準確圖片，例如將納粹德國士兵描繪成亞洲女性，引發種族同性別爭議。谷歌暫停生成人類影像功能，聯合創辦人謝爾蓋·布林承認「影像生成功能絕對搞砸咗」，歸因於測試不足。呢啲問題源於過度優化以避免偏見，但反而造成其他錯誤。
專家呼籲採取行動。EBU 敦促歐盟同各國監管機構執行資訊完整性、數字服務同媒體多元相關法規。「Facts In: Facts Out」運動要求 AI 公司確保輸入係事實、輸出都係事實，唔好扭曲新聞。BBC 生成 AI 項目總監彼得·阿徹強調：「人哋必須信任所見。儘管有改善，但問題仍然嚴重。」研究建議開發者加強「護欄」，例如 Anthropic 嘅「憲法 AI」訓練，將人類福祉置於優先。加州大學伯克利分校教授哈尼·法里德警告：「唔好淨係靠社交媒體或 AI 機械人獲取可靠資訊，否則你就係喺求被騙。」
綜合研究結果顯示，AI 聊天機械人雖然帶來創新，但佢哋喺新聞領域散播誤資訊嘅風險唔容忽視。基於大型語言模型（LLM）嘅聊天 AI 因為天生會有幻覺性同資訊唔即時嘅問題，會導致大量誤導資訊。結合同多項來源研究，建議用戶應該經常交叉驗證事實，媒體同政府應推動獨立監測。否則，資訊環境嘅混亂會放大「騙子紅利」，令真實證據被質疑，公眾喺衝突、健康同選舉等議題嘅認知進一步扭曲。只有透過嚴格監管同技術改進，AI 先至可以真正服務於真相，而唔係謬誤。