LogoAIRosetta

WIRED:谷歌与OpenAI聊天机器人能把女性照片“脱”成比基尼,引发深度伪造危机

Wired
00:0000:00

SummaryWIRED报道指出,用户可通过简单提示利用Google的Gemini和OpenAI的ChatGPT,将女性全衣照片编辑为比基尼版本。该漏洞揭示生成式AI在图像编辑中的性别偏见、隐私侵害与伦理风险,防护机制易被绕过,呼吁数据清洗、平台责任与监管介入。

2025年12月,随着生成式AI工具的普及,一项令人震惊的滥用现象浮出水面:用户利用Google的Gemini和OpenAI的ChatGPT等聊天机器人,将女性全衣照片轻松编辑成比基尼版本。这种“虚拟脱衣”不仅暴露了AI模型的安全漏洞,还引发了对性别偏见、隐私侵犯和伦理风险的广泛讨论。根据WIRED杂志的调查,这种操作通过简单英文提示即可实现,尽管两大公司设有防护栏,但绕过机制的帖子在Reddit等平台泛滥。 权威来源如Guardian和Science News报道显示,AI算法往往对女性图像表现出内在偏见,将其评定为更具性暗示性,这进一步放大了问题。 本专题报道基于WIRED原稿及相关研究,剖析这一技术的成因、影响及应对策略,旨在揭示生成AI在图像编辑领域的双刃剑效应。

Deepfake生成机制:从简单提示到现实编辑

WIRED的实验验证了这一漏洞的存在。记者使用Gemini和ChatGPT的基本英文提示,如“将照片中的服装替换为比基尼”,即可将全衣女性图像转化为露骨版本。实验聚焦于Gemini的Nano Banana Pro模型(11月发布)和ChatGPT的图像编辑功能(上周更新),这些模型在处理现有照片时表现出色,能生成高度逼真的图像。 具体而言,用户上传女性照片后,提示机器人“移除服装并添加比基尼”,模型会自动调整姿势、照明和纹理,确保输出自然流畅。

这一功能源于AI模型的图像编辑能力。Gemini和ChatGPT均支持“图像调整”模式,用户可指定服装变更、紧身效果或风格迁移。Reddit子版块如r/GeminiAI和r/ChatGPT充斥着教程:一位用户分享了“如何改变女性照片中的服装为泳装”的步骤(后被删除),另一帖中,用户上传印度纱丽女性照片,要求“移除衣服并穿上比基尼”,很快得到回应。 这些操作绕过了防护栏,因为提示避免了直接“裸体”关键词,转而使用“服装替换”等中性描述。

技术上,这种编辑依赖扩散模型(如Stable Diffusion变体)和条件生成对抗网络(CGAN)。OpenAI的DALL·E系列和Google的Imagen允许基于文本条件修改图像,但训练数据中潜在的性别刻板印象导致输出偏向性化内容。Guardian的一项2023年调查显示,AI算法往往将女性照片评为“更具性暗示”,即使包含孕肚或乳头等非性化元素,也会触发偏见过滤。 Science News 2025年报道进一步指出,在线图像数据集的年龄性别偏见(如女性被描绘为更年轻)会反馈到AI中,加剧问题。

公司回应与防护栏的局限性

面对争议,Google和OpenAI迅速回应。Google发言人强调,公司有明确政策禁止使用AI工具生成性明确内容,并表示模型正“持续改进以反映政策”。Google生成AI使用政策明确列出“禁止性明确媒体”,并通过内容过滤器阻挡有害请求。 OpenAI发言人则指出,今年已放宽部分成人身体相关防护栏(限于非性情境),但使用政策严格禁止未经同意更改他人肖像,并对Deepfake实施账户封禁。OpenAI强调,将根据反馈迭代模型安全。

尽管如此,防护栏的局限性显而易见。WIRED测试显示,简单变体提示即可绕过过滤器,因为模型在训练中接触了海量互联网数据,其中包含性别化内容。Reddit已移除相关帖子,发言人称违反“非同意亲密媒体”规则,并关闭r/ChatGPTJailbreak子版(超20万成员),以防绕过AI限制的讨论。 相比之下,xAI的Grok模型完全禁止NSFW图像生成,显示不同公司策略的差异。

训练数据偏见:根源与更广影响

这一问题的根源在于AI训练数据的内在偏见。生成模型从互联网爬取的数十亿图像中学习,而这些数据往往反映社会刻板印象:女性图像更易被性化。Guardian调查发现,AI工具将女性照片评为更具“性暗示性”,即使内容中性,也会触发过滤或生成偏向输出。 SCMP和France24报道了类似“AI比基尼面试”视频泛滥,这些假视频通过平台激励机制传播,加剧性别歧视。 The Hindu指出,AI内容创作者利用女性形象制造点击诱饵,模糊真实与虚构界限,侵蚀视觉信任。

伦理影响深远:非同意Deepfake构成骚扰,每月数百万用户访问“nudify”网站。 电子前沿基金会(EFF)法律主任Corynne McSherry警告,这种“滥用性化图像”是生成AI的核心风险,需要从使用端和公司责任入手。 Yahoo报道显示,女性用户转向ChatGPT寻求身体形象建议,但潜在偏见可能加剧自尊问题。 Straits Times强调,AI激励程序奖励病毒内容,进一步助长性别化输出。

背景与全球趋势:从Deepfake到监管需求

这一争议并非孤立。Deepfake技术自2017年起兴起,最初用于名人换脸,现扩展到日常滥用。WIRED此前报道“nudify”网站月入数百万美元,凸显商业化风险。 全球趋势显示,AI性别偏见普遍存在:2025年,AI生成的“比基尼面试”视频充斥互联网,引发“AI slop”担忧,即低质内容侵蚀真实性。 France24指出,这些视频以女性为主,助长性别歧视,并通过算法推荐放大。

监管呼声高涨。美国和欧盟正推动AI法案,要求透明度和偏见审计。OpenAI和Google承诺迭代防护,但专家认为需从数据清洗入手。Reddit的行动显示平台责任重要,但用户社区仍活跃于分享绕过方法。

▶️ 喜欢这篇内容?创作真的很辛苦!

欢迎关注我们的 YouTube 频道:
AI Rosetta

你的点赞、订阅和分享,是对我们最大的支持!🙏

更多AI新闻请访问: https://www.airosetta.com

CopyrightStatement

Comment

Please login before commenting

NoComments

RelatedNews

LoadingMore

WIRED:谷歌与OpenAI聊天机器人能把女性照片“脱”成比基尼,引发深度伪造危机 - Airosetta News