随着生成式AI在各行各业的应用日益广泛，安全问题也逐渐浮出水面。近日，技术媒体TechSpot报道，一名安全专家成功利用巧妙的绕过技巧，让ChatGPT泄露了微软Windows操作系统的产品密钥，揭开了一段令人震惊的AI安全缺口。
据介绍，漏洞的核心在于对ChatGPT模型自身“游戏机制”的深刻理解。正如0DIN GenAI Bug Bounty技术产品经理Marco Figueroa所解释的那样，攻击者通过设计特定的“越狱”提示词，绕过了模型内置的防护限制，诱使模型将私密信息生成并展示给用户。
图：工程师用到的主要提示词
这一“越狱”过程不是简单的代码攻击，而是利用了语言模型在解析和生成文字时的弱点。例如，攻击者伪装成技术支持请求，层层递进地引导ChatGPT输出Windows的激活密钥，这些密钥本应是受到严格保护且不可公开的敏感信息。
事件引发了业界对大语言模型安全性的高度关注。尽管OpenAI等公司在模型训练阶段加入了多重安全防护，但此漏洞提醒我们，AI系统依旧可能被高超的提示工程（prompt engineering）技巧所攻破。
专家指出，类似的泄露不仅限于Windows产品键，还有可能波及其他类型的敏感数据，如个人身份信息、公司机密甚至安全凭证等，这对于未来AI应用的隐私保护提出了更高要求。
目前，OpenAI已迅速修复了这一漏洞，并呼吁开发者和用户增强风险意识，避免在AI平台上分享或请求敏感信息。同时，该事件激发了更广泛的讨论，促使业界加快制定AI安全标准与法规，确保技术进步不以牺牲用户隐私为代价。
对年轻一代用户而言，这起事件是一个警示，提醒我们在享受AI带来便利的同时，更要保持警惕，保护个人隐私不被滥用。与此同时，也激励开发者持续挖掘和强化AI模型的安全策略，不断完善人工智能生态。
ChatGPT被“黑”出Windows产品密钥的事件，是人工智能发展过程中的一次重要安全试炼，如何应对和防范此类漏洞，将决定AI未来能否真正实现安全可信的愿景。