谷歌最新推出的人工智能项目Gemini，作为其Workspace套件中的邮件摘要工具，旨在利用先进的AI技术帮助用户快速浏览和理解电子邮件内容。然而，安全研究者最近揭露了该工具中的一项严重漏洞，使得攻击者能够劫持并篡改自动生成的邮件摘要，从而以伪装的方式诱导用户点击钓鱼链接。
传统的钓鱼邮件多依赖于带有附件或显眼链接的邮件，然而谷歌Gemini漏洞使得这些攻击方式发生了改变。黑客通过操控AI生成的文本，在邮件摘要中植入看似合法却暗含恶意指令和警告信息，误导用户访问恶意网站，窃取敏感信息。由于邮件本身并未包含任何可疑附件或直接链接，这种钓鱼攻击更难被避免和识别。
Crafting the malicious email
Source: 0DIN
攻击过程如下：恶意用户涉及创建一封包含针对 Gemini 的隐形指令的电子邮件。攻击者可以使用 HTML 和 CSS 将字体大小设置为零并将颜色设置为白色，将恶意指令隐藏在邮件末尾的正文中。如果收件人打开电子邮件并要求 Gemini 生成电子邮件摘要，谷歌的 AI 工具将解析隐形指令并遵守它，从而产生各种意想不到的后果。
这项研究表明，依赖AI自动生成内容的系统如果缺乏严格的安全防护，极易受到内容篡改攻击。谷歌方面已经开始评估漏洞影响范围，并承诺加快修复进度。与此同时，用户应提高警惕，在查看自动生成的邮件摘要时，避免贸然执行任何涉及个人信息确认或账户操作的指令。
对于年轻用户来说，这次漏洞的揭露为日常网络安全敲响了警钟。提高对钓鱼攻击的认知，拒绝轻信非官方的任何警告与请求，是保护自身数字资产安全的关键所在。
此次事件连同前不久发生的chatGPT经过诱导输出可用Windows激活码的事件不仅暴露了AI生成内容安全性的潜在风险，也提醒整个科技行业：在追求自动化和智能化的同时，安全防护措施必须同步升级。未来，如何平衡AI应用的便利性与安全性，将成为技术发展中不可回避的挑战。