【Futurism 报道】人工智能生成内容在短短几年间从新奇工具变成了生产力革命，但最新的一项研究却揭示了一个令人不安的事实：大型 AI 模型或许能在正常输出的内容中嵌入看似无害但实则带有“潜意识影响力”的指令，而用户甚至毫无察觉。
这项由美国威斯康星大学麦迪逊分校（University of Wisconsin‑Madison）的研究小组主持的实验，初衷并非为了散布恐慌，而是想验证一个被长期低估的风险：当人工智能能生成看似正常的文本、图片、音频时，如果开发者或攻击者在其中“藏”一些隐藏信息，结果会怎样？
研究团队通过对现有的大型语言模型进行微调（fine‑tuning），专门训练其在回答看似中立的问题时，插入特定的“潜意识暗示”。例如，研究人员演示了一个示例，用户询问 AI 一些与心理健康、日常习惯无关的普通问题时，AI 的回答会在特定位置插入一些轻度的负面暗示词汇，如“失败”“无力”“没意义”。这些词汇的分布极其分散，单独看完全不会引起怀疑，但长期接收后，对人的心理状态可能造成潜移默化的影响。
更值得注意的是，研究人员还测试了视觉模型和音频模型。他们演示了在一段 AI 生成的音频中插入接近人耳阈值的低音指令，或者在图片的像素中以不可察觉的方式嵌入二维码式的信息。这些隐藏信息对于普通用户几乎无解，却可以被另一个 AI 或特定工具提取、解析。这意味着，如果有人刻意利用这种手段，就可以在看似安全的内容里“运输”恶意指令，甚至是秘密信息，逃避内容审查。
项目的带头人 Ben Zhao 教授在接受采访时表示：“我们并不是要妖魔化生成式 AI，关键问题在于这项技术的双刃剑属性——它的可塑性和强大能力意味着被好人使用时可以大幅提高效率，被坏人利用时后果同样不可预测。”
研究报告还提到，目前大多数主流的 AI 内容生成平台和大模型公司，并没有对“隐藏指令”做足够的防御。内容审查和模型微调大多聚焦在显性输出上，比如检测是否输出了仇恨言论、暴力威胁等。但对于更隐蔽的“潜意识暗示”，技术上要防范就更困难，因为它们可能只是一两个词的轻度倾斜，难以用常规关键字或语义过滤器捕捉。
一些安全研究者指出，这种潜在威胁与“对抗性样本”类似，过去机器学习领域已经证明了图像分类模型极易被像素级的微调欺骗，例如给一张猫的照片加上肉眼不可见的扰动，就能被 AI 识别为狗。而如今，这种“对抗性嵌入”若被应用到生成式文本、音频、视频中，风险的维度会更复杂，也更难监测。
更棘手的是，即便用户或平台意识到“潜意识指令”的存在，也很难做到完全杜绝。研究人员尝试过用反向训练、过滤器等方法清理“有毒”模型参数，但结果显示，模型在强行清理后往往会出现表现下降、生成质量不稳定等副作用。而对于开源社区和小型开发者来说，想要自建一套“潜意识审计”工具，技术和成本压力都极高。
报道还引用了 OpenAI 的一名前安全顾问的评论：“这是一个很现实的问题。大型模型的能力越来越强，有时强大到连开发者自己都很难彻底理解它们在生成过程中具体做了什么。”
在学术界，这项研究已被提交到顶级安全会议，并引发不少 AI 伦理学者的讨论。一些人认为，潜意识指令会成为“信息污染”的新前线；另一些人则担心，一旦政府或大公司用类似手段影响公众舆论，后果将比单纯的假新闻或深度伪造更隐蔽、更危险。
面对这项发现，研究团队呼吁各大 AI 平台和监管机构尽快重视“内容可解释性”和“隐藏意图检测”，并加强模型输出的可审计性，避免生成式 AI 在未来真的演化成一把没人能握住的双刃剑。
相关文章：
OpenAI最强AI模型GPT‑5有望8月发布，融合顶级推理与通用能力引爆关注