WIRED 報道（2026年2月15日）詳細展示咗谷歌「AI 概覽」（AI Overviews）點樣喺搜尋結果頂生成簡短總結，呢啲摘要唔係簡單摘錄，而係模型合成出嚟嘅答案。問題係，攻擊者可以透過喺網頁入面嵌入特定文本、結構化數據或誤導性標題，誘導模型將惡意資訊提煉成睇落可信嘅「步驟」或「建議」。
報道舉咗幾個被濫用嘅場景：詐騙者建立睇似政府或銀行嘅登入頁，頁面內包含指向外部熱線、下載連結或表格嘅明確指示；模型將呢啲指示整合入頂部摘要，用戶甚至未點入原站就可能按摘要去做。另一個細節係，模型有時會將廣告語、用戶評論或頁面註解誤讀為事實陳述，從而以權威口吻呈現虛假承諾。
技術層面上，WIRED 指出攻擊者利用兩條路徑影響摘要：一係直接喺頁面可索引文本中插入「如何做」嘅說明，二係透過操縱頁面元數據同結構化標記（schema）令模型優先採納佢哋嘅表述。實驗仲顯示，某啲睇似邊緣嘅細站，只要喺結構上「對模型友好」，就可以將虛假嘅操作步驟推上搜尋頁面嘅顯著位置。
如何自保——實用操作清單
- 永遠先睇來源：見到 AI 概覽之後，先點開摘要下方或旁邊嘅原始連結，核對域名係咪官方或權威機構。
- 檢查細節唔係淨係睇文案：如果摘要入面有電話號碼、下載連結或者「立即申請」類指示，務必喺新分頁打開原站，核實頁面證書、公司資料同私隱提示。
- 多渠道核實：對於金融、法律、醫療類建議，使用政府網站、主流媒體或專業機構交叉比對，避免淨係信一個 AI 摘要。
- 善用搜尋工具：用 site:、filetype: 等搜尋限定符搵權威來源；喺社交平台或專門反詐網站查電話號碼或公司名有冇被舉報。
- 關閉或小心使用 AI 概覽：如果你需要精確事實，可以喺谷歌設定關閉相關生成功能，或者只當佢係初步線索唔好當最後結論。
- 舉報可疑結果：遇到明顯誤導或詐騙嘅摘要，使用搜尋結果旁邊嘅反饋按鈕向平台舉報，幫助提升模型過濾能力。
WIRED 嘅分析提醒我哋：生成式 AI 會將資訊「濃縮」成易讀摘要，但同時亦放大咗錯誤或惡意內容嘅傳播效率。年輕用戶喺追求速度同方便嘅時候，應該將「自己核實」變成常態：唔好畀頂嗰行睇落權威嘅文字取代基本判斷。文章最後亦提到，科技公司需要將資料來源可信度納入模型決策，並喺介面上更清晰標示「合成」同「引用」之間嘅界線，先可以從根本上降低被詐騙嘅風險。
▶️ 鍾意呢篇內容？創作真係好辛苦！
歡迎追蹤我哋嘅 YouTube 頻道：
AI Rosetta
你嘅讚好、訂閱同分享，係對我哋最大嘅支持！🙏
更多AI新聞請訪問：https://www.airosetta.com