Digital Camera World 在题为“Google’s chatbot refuses to make deepfakes. But Gemini’s new photo‑editing capabilities open the AI to far more potential for misuse”的报道中，对 Google 新版聊天机器人 Gemini 的图像编辑能力进行了实测与风险评估。报道指出，Google 为防止“凭空生成某个真实人物的深度伪造”设定了明确拒绝策略：当用户仅用文字提示要求生成或伪造具体真人时，模型会拒绝输出。
但问题出在“以图生图”的流程上。Gemini 新的编辑工具允许用户上传一张真实照片，然后通过遮罩（mask）、局部修复和扩边（image expansion）等功能，对人物的表情、姿势、衣着、光线与背景进行反复修改。报道作者演示了一个流程：先上传一张普通肖像，随后用文字提示改变人物年龄、调整面部表情、替换背景，再次保存并对新图继续二次编辑。经过多轮迭代后，最终产出的图像既保留了原始照片的面容特征，又在细节上展现出高度真实感——这种“以真为基、不断变形”的路径，绕开了 Google 对“文生真人”请求的拒绝逻辑。
该漏洞带来的风险被报道放大描述：任何人只要获取到一张目标的照片（来源可以是社交媒体或公开档案），就能利用 Gemini 的编辑链制造出多版本的“逼真替代”图像。更危险的是，模型在修复、上妆、表情微调方面已足够细腻，使得合成结果即便经过放大取证也难以立刻辨识为伪造。报道还指出，Gemini 在处理公众人物的直接生成请求上有防护，但对由用户提供图像并要求“改变场景或行为”的编辑请求，当前的自动化检测尚不完善。
Google 对外回应强调其在图像生成上采取多层安全措施，包括限制对某些公众人物的生成、内置滥用检测器以及对外发布的使用守则；但 Digital Camera World 提示，这些措施在面对“源图可得”的现实世界场景时显得脆弱。作者在文中举例：通过把一张普通照片的背景换成争议场景、或把人物的神态调整为具有挑衅性的表情，便可能制造误导性视觉证据，用于网络骚扰、敲诈或政治抹黑。
报道最后提出建议：首先，模型端需要加强对“以图为基”的连续编辑链的可追溯性与水印化，自动嵌入不可见但可验证的生成标识；其次，平台应提升对上传源照片的审核和来源追踪，尤其是明确禁止使用未经同意的第三方肖像进行多轮合成；最后，社会需推动更严格的法律与技术并行路径，例如数字内容溯源标准与强制性元数据声明。
整体来看，Digital Camera World 的报道既肯定了 Gemini 在图像编辑上带来的创作便利，也对“当防护机制只针对文本生成、而未覆盖图像迭代路径”这一现实漏洞提出了明确警告——在技术普及的当下，生成工具的便利与滥用风险正处于一条危险的临界线上。