2026年2月13日 —— 谷歌安全團隊喺技術報告中警告：多個黑客組織濫用Gemini人工智能，做偵察（recon）同攻擊支援。報告細節顯示，攻擊者唔係淨係當AI做寫作助手，而係當Gemini做可編程嘅「偵查引擎」同「攻擊助理」。
谷歌指出，攻擊鏈包含多種具體手法：首先，透過對公開資料同受害人歷史通訊嘅結構化詢問，攻擊者使用模型快速生成高度針對性嘅個人畫像，包括職位描述、常用簽名格式、常見合作夥伴同常駐代碼倉庫路徑。基於呢啲輸出，攻擊者自動化構建釣魚電郵同偽造登入頁面，生成多版本文案以進行A/B測試，顯著提高命中率。
其次，報告披露咗「釣魚工具包（phishing kits）」嘅生成與迭代方式：攻擊者利用Gemini快速產出網頁模板、社工文案、以及引導受害者上傳憑證嘅說明文本，再將呢啲組件整合到現成嘅託管或臨時域名上分發。谷歌留意到，部分樣本仲包含用AI生成嘅圖像同客製化logo，以增加欺騙可信度。
第三類濫用係同惡意軟件相關嘅「暫存（staging）」與混淆手法。攻擊者會令模型參與編寫並改寫載荷、生成混淆代碼段以規避靜態檢測，甚至用Gemini梳理攻防日誌、優化後門嘅持久化步驟。報告同時提到「模型提取攻擊」，攻擊者嘗試透過大量查詢重建內部或受限模型嘅行為同參數，以便複製其能力。
谷歌喺報告中附帶可操作嘅檢測線索與防禦建議：加強API同模型存取嘅權限控管、對異常查詢與高頻互動建立告警、對包含敏感上下文嘅查詢實施人工覆核、定期輪換憑證並限制自動化存取。谷歌仲為企業管理員提供示例規則與IOC（感染指標），便於喺GCP與Workspace環境部署。
The Hacker News喺同日轉載並補充說明，研究人員喺多個攻擊樣本中觀察到一致嘅濫用模式，但公開版本並冇將攻擊群體與具體國家完全對應。谷歌強調，模型能力越強，被濫用嘅風險越高，營運者與企業需要喺提升效率與控制濫用之間做技術與政策層面嘅平衡。
呢份報告對安全團隊提出咗現實挑戰：當AI能喺分鐘級生成個性化攻擊內容並自動測試變體時，傳統基於特徵嘅防禦變得更脆弱。谷歌建議企業把重點放喺行為檢測、存取治理與快速響應流程上，同時對員工進行更有針對性嘅反釣魚訓練。
對於關注AI安全與企業防護嘅技術人員與管理者嚟講，2026年2月13日嘅呢份報告既係警鐘亦係藍圖：喺AI帶嚟生產力提升嘅同時，相關濫用場景已由概念走入實戰，必須以更細粒度嘅監控與策略來應對。
▶️ 鍾意呢篇內容？創作真係好辛苦！
歡迎關注我哋嘅 YouTube 頻道：
AI Rosetta
你嘅讚好、訂閱同分享，係對我哋最大嘅支持！🙏
更多AI新聞請瀏覽：https://www.airosetta.com