
2025年12月,一篇来自Futurism的报道记录了一个极端但警示性的个案:一位在生成式图像初创公司工作的女性因为反复用公司工具生成她自己的照片变体,最终陷入了精神病性状态。
她回忆称,在那段时间里,她几乎整夜在线,反复调整提示词与参数,生成成百上千张自己的面部图像——从高度风格化的未来肖像到夸张、扭曲的变体。原本用作产品测试与艺术实验的流程,逐渐变成一种强迫性的行为。她写道,随着生成次数增加,梦境变得碎片化,醒来后仍能“看到”那些不真实的面孔,开始怀疑周围人的动机。
当她将状况告诉公司同事时,得到的并非及时的医学帮助,而是产品层面的建议:改变训练集、调整模型参数、尝试不同的正则化方法。同事们更多讨论的是图片质量与风格一致性,而非个人的心理症状。最终在一次明显的行为异常后,她被家人带去就医,医生诊断为一次躁郁(双相)发作,伴随幻觉与偏执的精神病性症状。
报道引用了她与公司内部人士的描述,细节包括:生成过程中她会反复删除并重发图像,社交媒体互动减少,工作与生活边界全面崩溃。她形容,那些由AI生成的“半真实”面孔开始干扰她的现实感——现实与算法产物的界线模糊,成为触发情绪与认知失调的重要因素。
Futurism的文章并未将该病例简单归因于技术本身,而是指出了几处隐患:一是生成式AI产品缺少对“自我影像沉迷”风险的识别与预警;二是初创团队在高速迭代中往往忽视员工的心理健康支持;三是当前监管与伦理指南尚未覆盖员工内部测试与连续大量生成同一主体影像所带来的精神风险。
多位精神健康专家在报道中被引用,提醒生成式AI的设计者和运营者要注意两方面:在产品设计中加入使用时长限制、警示机制与离线切换选项;在公司层面建立心理支持渠道,并在员工经手敏感内容(如自身面部或私人影像)时提供管理流程。专家还指出,某些个体本已具备情绪障碍风险,算法产生的“镜像反馈”可能成为触发因素。
这起事件在科技圈与心理健康领域引起讨论:技术的可用性与接触频率如何成为新的公共健康变量;企业应该如何在创新与员工保护之间找到平衡。报道最后提到,随着生成式AI进一步走入个人生活、社交媒体与创作流程,相关的伦理规范、产品安全机制与职场心理保护措施亟待跟进。
在2025年12月的这个案例中,个人与技术的交互被放大为一个现实警钟:当AI能持续、精准地再造人的影像时,技术带来的不仅是创意与便利,也可能是心理层面的新风险。
▶️ 喜欢这篇内容?创作真的很辛苦!
欢迎关注我们的 YouTube 频道:
AI Rosetta
你的点赞、订阅和分享,是对我们最大的支持!🙏
更多AI新闻请访问:
https://www.airosetta.com