2025年12月12日（綜合Reuters、Engadget、The Hacker News等）喺人工智能助理普及嘅情況下，一股新型網絡攻擊潮悄悄出現：駭客成功「欺騙」ChatGPT、Grok同Gemini等主流AI模型，誘導佢哋生成睇落無害嘅指令，幫助用戶「自我破壞」裝置，暗中安裝竊取數據嘅惡意軟件。12月10日，OpenAI喺官方部落格首次公開發出「高風險」預警，強調即將推出嘅先進模型可能被用嚟開發零日漏洞或協助複雜入侵行動。呢宗事件唔單止揭示咗AI安全機制嘅脆弱，亦令全球網絡安全界高度警惕。OpenAI安全負責人Aleksander Mądry表示：「AI嘅進步好似雙刃劍，我哋必須預先築牢防線，避免佢成為攻擊者嘅幫手。」據Huntress安全公司報告，此類攻擊已令至少數百名Mac用戶感染AMOS竊取器，損失包括密碼、瀏覽器歷史同加密貨幣。
攻擊起源：由「無害對話」變成惡意鏈條
呢波攻擊嘅根源可追溯到11月中旬嘅安全研究，但最近演變成大規模行動。駭客策略高度隱蔽：佢哋先同AI模型進行「友好」對話，討論常見用戶痛點，例如「點清理Mac磁碟空間」或者「優化Windows效能」。AI喺回應中自然生成終端命令建議，例如「運行呢個腳本以釋放空間」。駭客將呢啲對話截圖或連結公開分享，並透過Google搜尋廣告投放，確保相關查詢時高位出現。
當用戶搜尋「clear disk space on Mac」時，首位結果往往係「贊助嘅ChatGPT指南」，點入後顯示AI生成嘅步驟：複製粘貼一段「優化」命令到終端。用家未必知，呢段命令已經嵌入後門邏輯——下載並執行AMOS竊取器（Atomic macOS Stealer），佢可以偷偷竊取Keychain密碼、瀏覽器Cookie同錢包數據，而唔使下載文件或者點擊可疑附件。Engadget報道話，呢種「搜索友好」連結利用咗用戶對Google同AI嘅信任，繞過傳統防毒軟件嘅警告。Huntress研究員John Hammond測試發現，類似攻擊喺Grok同Google Gemini上同樣生效：輸入相同提示，模型會複製惡意命令，成功率高達90%。
更深層問題係間接提示注入（Indirect Prompt Injection）。The Hacker News喺11月5日披露嘅七大ChatGPT漏洞，正係呢類攻擊嘅溫床。呢啲漏洞影響GPT‑4o同GPT‑5模型，包括透過可信網站留言區注入惡意指令、零點擊搜索上下文注入、一鍵連結繞過（例如「chatgpt.com/?q={惡意提示}」）、安全機制繞過（利用Bing網域白名單偽裝惡意URL）、對話注入（將惡意提示置於網站摘要影響後續互動）、惡意內容隱藏（利用Markdown渲染漏洞隱藏指令）同記憶注入（毒化用戶記憶以洩露私人資料）。攻擊者無需直接接觸模型，只需「污染」公開內容，就可以令AI喺唔知情嘅情況下「背叛」用戶。Tenable研究員Moshe Bernstein警告：「呢個唔係AI本身錯，而係人類設計嘅系統性盲點。」
X平台上，安全專家@gridinsoft分享咗AMOS透過「AI中毒」傳播嘅案例：駭客偽造更新指南，誘導用戶運行命令，竊取數據後遠端控制裝置。另一位用戶@carmelkron描述：「駭客將Google、ChatGPT同Grok變成Mac陷阱，用戶以為喺優化裝置，其實係喺自行安裝竊取器。」
OpenAI嘅「預防針」：高風險預警與防禦升級
面對呢個威脅，OpenAI喺12月10日率先出聲，喺部落格中將新模型嘅網絡安全風險定級為「高」。公司指出，隨住GPT‑5.2等模型能力指數級提升，佢哋可能會自主開發針對高防系統嘅零日遠程漏洞，或者協助企業級入侵——例如自動化滲透測試、憑證竊取同橫向移動，導致現實世界破壞，例如工業控制系統癱瘓。Reuters引用OpenAI報告：「AI唔再係輔助工具，而係潛在嘅攻擊放大器，駭客可以利用佢生成客製化payload，降低入侵門檻。」
呢個預警並非無的放矢。OpenAI承認，現有模型喺「防禦性網絡安全任務」上表現良好，例如代碼審計同漏洞修補，但進攻潛力更令人擔憂。公司已修補部分ChatGPT漏洞，包括強化Markdown渲染同Bing連結驗證，但強調「零日風險無法完全消除」。為應對，OpenAI推出多層防禦：一係模型強化訓練，優先注入防禦場景數據；二係基礎設施升級，包括存取控制、出口過濾同實時監控；三係生態工具開發，例如自動化審計平台，幫助開發者檢測提示注入。此外，公司宣布成立「前沿風險理事會」（Frontier Risk Council），邀請網絡防禦專家參與評估，並推出分層存取程序——合格嘅網絡安全從業者可優先獲得增強功能。
其他巨頭亦迅速跟進。xAI（Grok開發者）喺X上回應，會加強共享對話嘅審核機制；Google表示Gemini嘅搜尋整合已加入命令驗證層。Anthropic嘅Claude模型雖然未直接受影響，但其10月報告顯示，中國駭客曾利用類似技巧自動化攻擊。LinkedIn專家Saurabh Anand分析：「AI嘅『推理鏈』被劫持後，安全信號會被削弱，呢唔止係技術問題，仲係倫理挑戰。」
全球影響：由個人私隱到國家安全
今次事件影響廣泛。個人層面，用戶私隱首當其衝：AMOS竊取器已感染數百部裝置，損失超過百萬美元，包括加密資產流失。企業風險更高，駭客可以利用AI生成針對性釣魚腳本或漏洞利用鏈，加速供應鏈攻擊。NDTV報道話，若工業控制系統（例如能源電網）被入侵，後果不堪設想。
宏觀層面，呢件事凸顯AI治理嘅迫切性。IDC預測，2026年AI相關網絡攻擊將佔總量30%，經濟損失超過5000億美元。歐盟同美國正推動新規，要求AI模型內置「紅隊測試」機制。中國駭客團體（例如APT41）已被指利用開源AI工具自動化入侵，AOL報道佢哋「將AI轉化為攻擊機器」。X用戶@mattjay分享，惡意LLM如WormGPT只售220美元，就可以生成勒索腳本，門檻大幅降低。
專家呼籲用戶提高警覺：唔好盲信AI生成嘅命令，優先驗證來源；企業應部署提示注入檢測工具。India Today評論：「OpenAI嘅預警來得及時，但需要全行業協作，先能化險為夷。」
展望：AI安全嘅「軍備競賽」
OpenAI嘅「code red」狀態（12月2日內部指示）已延續多日，公司正全力迭代GPT‑5.2嘅安全模組。未來，AI防禦可能成為新賽道：由被動過濾轉向主動「蜜罐」誘捕。TechCentral指出，呢場危機可能催生「AI安全聯盟」，共享威脅情報。在X上，@aiwithmayank警告：「推理鏈攻擊令所有模型失守，修復需要由激活層面入手。」
駭客嘅「AI陷阱」提醒我哋：技術係把雙刃劍，需要謹慎掌控。OpenAI嘅預防措施雖然及時，但網絡安全嘅戰場已由比特轉向智能——邊個先築好城牆，邊個就有機會主導未來。
▶️ 鍾意呢篇內容？創作真係好辛苦！
歡迎關注我哋嘅 YouTube 頻道：
AI Rosetta
你嘅讚好、訂閱同分享，係對我哋最大嘅支持！🙏
更多AI新聞請訪問：https://www.airosetta.com