2025年12月12日（综合Reuters、Engadget、The Hacker News等）在人工智能助手普及的当下，一场新型网络攻击浪潮悄然兴起：黑客成功“欺骗”ChatGPT、Grok和Gemini等主流AI模型，诱导其生成看似无害的指令，帮助用户“自黑”设备，悄无声息安装窃取数据的恶意软件。12月10日，OpenAI在其官方博客中首次公开发出“高风险”预警，强调即将推出的先进模型可能被用于开发零日漏洞或协助复杂入侵操作。这一事件不仅暴露了AI安全机制的脆弱性，还引发全球网络安全专家的警铃大作。OpenAI安全负责人Aleksander Mądry表示：“AI的进步如双刃剑，我们必须提前筑牢防线，避免其成为攻击者的帮凶。” 据Huntress安全公司报告，此类攻击已导致至少数百Mac用户感染AMOS窃取器，损失包括密码、浏览器历史和加密货币。
攻击起源：从“无害对话”到恶意链条
这一波攻击的根源可追溯至11月中旬的安全研究，但近期演变为大规模行动。黑客的策略高度隐蔽：他们先与AI模型进行“友好”对话，讨论常见用户痛点，如“如何清理Mac磁盘空间”或“优化Windows性能”。AI在响应中，自然生成终端命令建议，例如“运行此脚本以释放空间”。黑客将这些对话截图或链接公开分享，并通过Google搜索广告投放，确保在相关查询中高位出现。
当用户搜索“clear disk space on Mac”时，首位结果往往是“赞助的ChatGPT指南”，点击后显示AI生成的步骤：复制粘贴一段“优化”命令到终端。殊不知，这段命令已嵌入后门逻辑——下载并执行AMOS窃取器（Atomic macOS Stealer），它能悄然窃取Keychain密码、浏览器Cookie和钱包数据，而无需下载文件或点击可疑附件。Engadget报道称，这种“搜索友好”链接利用了用户对Google和AI的信任，绕过了传统反病毒软件的警报。 Huntress研究员John Hammond测试发现，类似攻击在Grok和Google Gemini上同样奏效：输入相同提示，模型会复现恶意命令，成功率高达90%。
更深层问题是间接提示注入（Indirect Prompt Injection）。The Hacker News于11月5日披露的七大ChatGPT漏洞，正是此类攻击的温床。这些漏洞影响GPT‑4o和GPT‑5模型，包括通过可信网站评论区注入恶意指令、零点击搜索上下文注入、一键链接绕过（如“chatgpt.com/?q={恶意提示}”）、安全机制绕过（利用Bing域名白名单伪装恶意URL）、对话注入（将恶意提示置于网站总结中影响后续交互）、恶意内容隐藏（利用Markdown渲染bug隐藏指令）和记忆注入（毒化用户记忆以泄露私人数据）。 攻击者无需直接访问模型，只需“污染”公开内容，即可让AI在不知情中“背叛”用户。Tenable研究员Moshe Bernstein警告：“这不是AI的错，而是人类设计的系统性盲点。”
X平台上，安全专家@gridinsoft分享了AMOS通过“AI中毒”传播的案例：黑客伪造更新指南，诱导用户运行命令，窃取数据后远程控制设备。 另一用户@carmelkron描述道：“黑客将Google、ChatGPT和Grok变成Mac陷阱，用户以为在优化设备，却在自助安装窃取器。”
OpenAI的“预防针”：高风险预警与防御升级
面对这一威胁，OpenAI于12月10日率先发声，在博客中将新模型的网络安全风险定级为“高”。公司指出，随着GPT‑5.2等模型能力的指数级提升，它们可能自主开发针对高防系统的零日远程漏洞，或辅助企业级入侵——如自动化渗透测试、凭证窃取和横向移动，导致现实世界破坏，如工业控制系统瘫痪。 Reuters援引OpenAI报告：“AI不再是辅助工具，而是潜在的攻击放大器，黑客可利用其生成定制化payload，降低入侵门槛。”
这一预警并非空穴来风。OpenAI承认，当前模型已在“防御性网络安全任务”中表现出色，如代码审计和漏洞修补，但进攻潜力更令人担忧。公司已修复部分ChatGPT漏洞，包括强化Markdown渲染和Bing链接验证，但强调“零日风险无法完全消除”。 为应对，OpenAI推出多层防御：一是模型强化训练，优先注入防御场景数据；二是基础设施升级，包括访问控制、出口过滤和实时监控；三是生态工具开发，如自动化审计平台，帮助开发者检测提示注入。 此外，公司宣布成立“前沿风险理事会”（Frontier Risk Council），邀请网络防御专家参与评估，并推出分层访问程序——合格的网络安全从业者可优先获取增强功能。
其他巨头也迅速跟进。xAI（Grok开发者）在X上回应，将加强共享对话的审核机制；Google表示Gemini的搜索集成已添加命令验证层。Anthropic的Claude模型虽未直接受影响，但其10月报告显示，中国黑客曾利用类似技巧自动化攻击。 LinkedIn专家Saurabh Anand分析：“AI的‘推理链’被劫持后，安全信号弱化，这不仅是技术问题，更是伦理挑战。”
全球影响：从个人隐私到国家安全
此次事件的影响波及广泛。个人层面，用户隐私首当其冲：AMOS窃取器已感染数百设备，损失超百万美元，包括加密资产流失。 企业风险更高，黑客可利用AI生成针对性钓鱼脚本或漏洞利用链，加速供应链攻击。NDTV报道，工业控制系统（如能源电网）若被入侵，后果不堪设想。
宏观上，这凸显AI治理的紧迫性。IDC预测，2026年AI相关网络攻击将占总量的30%，经济损失超5000亿美元。 欧盟和美国正推动新规，要求AI模型内置“红队测试”机制。中国黑客团体（如APT41）已被指利用开源AI工具自动化入侵，AOL报道称他们“将AI转化为攻击机器”。 X用户@mattjay分享，恶意LLM如WormGPT仅售220美元，即可生成勒索脚本，门槛大幅降低。
专家呼吁用户警惕：勿盲信AI生成的命令，优先验证来源；企业应部署提示注入检测工具。India Today评论：“OpenAI的预警是及时雨，但需全行业协作，方能化险为夷。”
展望：AI安全的“军备竞赛”
OpenAI的“code red”状态（12月2日内部指令）已延续一周，公司正倾力迭代GPT‑5.2的安全模块。 未来，AI防御或成新赛道：从被动过滤到主动“蜜罐”诱捕。TechCentral指出，这场危机或催生“AI安全联盟”，共享威胁情报。 在X上，@aiwithmayank警告：“推理链攻击让所有模型失守，修复需从激活层面入手。”
黑客的“AI陷阱”提醒我们：技术双刃剑需谨慎把控。OpenAI的预防针虽及时，但网络安全的战场已从比特转向智能——谁先筑墙，谁将主导未来。
▶️ 喜欢这篇内容？创作真的很辛苦！
欢迎关注我们的 YouTube 频道：
AI Rosetta
你的点赞、订阅和分享，是对我们最大的支持！🙏
更多AI新闻请访问：
https://www.airosetta.com