2025年12月，Futurism有篇報道記錄咗一宗極端但具警示性嘅個案：一位喺生成式圖像初創公司做嘅女員工，因為反覆用公司工具生成自己相片嘅變體，最終陷入精神病性狀態。
佢回憶話，喺嗰段時間，佢幾乎通宵在線，不斷調整提示詞同參數，生成成百上千張自己嘅面部圖像——由高度風格化嘅未來肖像到誇張、扭曲嘅變體。原本用作產品測試與藝術實驗嘅流程，逐漸變成一種強迫性嘅行為。佢寫道，隨著生成次數增加，夢境變得碎片化，瞓醒之後仍然可以「見到」嗰啲不真實嘅面孔，開始懷疑周圍人嘅動機。
當佢同公司同事講出狀況時，得到嘅唔係即時嘅醫療協助，而係產品層面嘅建議：改變訓練集、調整模型參數、試下唔同嘅正則化方法。同事哋討論得更多係相片質素同風格一致性，而唔係個人嘅心理症狀。最後喺一次明顯嘅行為異常之後，佢畀屋企人帶去睇醫生，醫生診斷係一次躁鬱（雙相）發作，伴隨幻覺同偏執嘅精神病性症狀。
報道引用咗佢同公司內部人士嘅描述，細節包括：生成過程中佢會反覆刪除並重發圖像，社交媒體互動減少，工作同生活界線全面崩潰。佢形容，嗰啲由AI生成嘅「半真實」面孔開始干擾佢對現實嘅感覺——現實同算法產物嘅界線變得模糊，成為觸發情緒同認知失調嘅重要因素。
Futurism篇文章冇簡單將個案歸因於技術本身，而係指出幾個隱憂：第一，生成式AI產品缺乏對「自我影像沉迷」風險嘅識別同預警；第二，初創團隊喺高速迭代中往往忽視員工心理健康支援；第三，現行監管同倫理指引未有涵蓋員工內部測試同持續大量生成同一主體影像所帶嚟嘅精神風險。
多位精神健康專家喺報道度被引用，提醒生成式AI嘅設計者同營運者注意兩方面：喺產品設計加入使用時長限制、警示機制同離線切換選項；喺公司層面建立心理支援渠道，並喺員工接觸敏感內容（例如自己面部或私人影像）時提供管理流程。專家仲指出，部分個體本身就有情緒障礙風險，算法產生嘅「鏡像反饋」可能成為觸發因素。
呢宗事件喺科技圈同心理健康界引起討論：技術嘅可及性同接觸頻率點樣成為新嘅公共健康變數；企業應該點樣喺創新同員工保護之間搵到平衡。報道最後提到，隨住生成式AI進一步進入個人生活、社交媒體同創作流程，相關倫理規範、產品安全機制同職場心理保護措施都急需跟進。
喺2025年12月嘅呢宗個案，個人同技術嘅互動被放大成一個現實嘅警鐘：當AI可以持續、精準噉再造人嘅影像時，技術帶嚟嘅唔止創意同便利，亦可能係心理層面嘅新風險。
▶️ 鍾意呢篇內容？創作真係好辛苦！
歡迎關注我哋嘅 YouTube 頻道：
AI Rosetta
你嘅讚好、訂閱同分享，係對我哋最大嘅支持！🙏
更多 AI 新聞請到：https://www.airosetta.com