喺人工智能影片生成技術急速發展嘅2026年，字節跳動旗下嘅 Seedance 2.0 模型最新動態引起廣泛關注。2月8日，字節跳動宣佈暫停 Seedance 2.0 嘅真人素材參考生成能力，原因係呢個功能易畀人濫用，可能導致 Deepfake 等惡意內容泛濫。呢個決定雖然令部分創作者覺得可惜，但凸顯咗 AI 倫理同安全嘅迫切性。作為一款多模態 AI 影片生成器，Seedance 2.0 自預發布以嚟，以其強大功能吸引咗唔少用家，但今次調整標誌住科技巨頭喺創新同責任之間嘅艱難平衡。喺 Deepfake 嘅陰影下，呢次暫停會唔會重塑 AI 內容創作生態？我哋一齊深入剖析事件始末同深遠影響。
事件始末：由火熱上線到緊急剎車
Seedance 2.0 於2026年2月7日預發布，由字節跳動 Jimeng AI 平台推出，迅速成為 AI 影片領域嘅焦點。該模型支持多模態輸入，包括圖像、影片、音頻同文本，用家可以輕鬆生成高清影片，例如由一句描述創建電影級片段。當中，真人素材參考功能係其中一個亮點：用戶上傳真實人物相片或影片作為參考，AI 就可以生成以該人物為主角嘅虛擬內容，適合用喺動畫、音樂短片或短劇製作。呢個功能喺上線初期廣受歡迎，Reddit 用戶分享嘅示範影片顯示，它能精準捕捉面部表情同動作，生成逼真效果。
然而，淨係一日之後，字節跳動透過官方渠道宣佈暫停該功能。公告稱：「鑑於真人參考易被濫用，我哋決定暫時關閉此能力，以確保平台安全同合規。」具體而言，用戶已經無法上傳真人相片或影片作為參考素材，系統會自動過濾呢類輸入，並鼓勵改用卡通或虛擬形象。呢個調整唔係突發決定：早喺預發布之前，內部測試已經暴露潛在風險，例如生成名人假影片或散播誤導資訊。字節跳動發言人表示，此舉係為咗防範 Deepfake 濫用，類似 OpenAI 嘅 DALL·E 同 Sora 喺早期都曾限制敏感內容生成。
社群反應迅速。喺 X 平台上，用戶 @JSFILMZ 發帖話：「Seedance 2.0 暫停真人參考真係可惜，不過理解係為咗避免亂象。」而喺 Hacker News 討論區，有開發者擔心呢個決定會限制創意表達，但大多數人都支持安全優先。呢件事亦引起媒體熱議，《硅谷日報》評論道：「字節跳動此舉係主動糾偏，體現咗中國 AI 企業喺全球倫理浪潮中嘅擔當。」
濫用風險剖析：Deepfake 的幽靈與技術雙刃劍
暫停嘅直接原因係濫用隱患。Seedance 2.0 嘅真人參考功能基於先進嘅擴散模型同多模態融合，能高度還原人物外貌同動作，但呢樣亦令佢成為 Deepfake 嘅潛在工具。Deepfake 技術已經成為全球問題：2025 年，國際 AI 安全報告指出，Deepfake 影片導致嘅假新聞同侵犯私隱事件增加咗 30%。喺 Seedance 2.0 裡面，如果用戶上傳名人相片去生成虛假言論影片，或者用嚟做網絡詐騙，後果不堪設想。字節跳動內部評估顯示，上線首日就有少數用戶嘗試生成敏感內容，觸發安全警報。
呢個功能嘅技術原理係參考融合：AI 透過學習上傳素材嘅特徵（例如面部輪廓、肢體語言），去生成新影片。但正如歐盟 AI 法案強調，高風險 AI 應用要嚴格監管，字節跳動選擇暫停以避免法律風險。類似案例多不勝數：Midjourney 曾因 Deepfake 濫用而限制人物生成，Adobe Firefly 亦內建水印防偽機制。專家分析認為，Seedance 2.0 嘅暫停係行業自省嘅信號，防止 AI 由創意工具淪為破壞性武器。
剩餘功能與用戶影響：創新未止，安全為先
雖然暫停咗真人參考，Seedance 2.0 嘅核心能力並冇削弱。模型仍支持多達9張圖像、3個影片（總長≤15秒）、3個音頻文件同文本輸入，生成1080p 高清影片。用戶可以繼續創作動畫、音樂影片或虛擬場景，例如生成籃球對決或科幻短片。平台鼓勵使用卡通化參考，避免真人濫用風險。YouTube 博主嘅測試顯示，非真人模式下模型喺創意表達上依然出色。
對用戶嚟講，呢個調整短期內可能會限制部分應用，例如個性化拜年影片，但長遠提升咗平台可信度。Jimeng AI 社區數據顯示，暫停後用戶活躍度非但冇跌反而上升，更多人轉向安全創作。字節跳動承諾，會喺完善檢測機制後逐步恢復功能，例如加入水印同內容審核。
行業啟示：AI 倫理嘅全球共識同字節跳動嘅策略
呢件事反映咗 AI 行業嘅倫理困境。麥肯錫報告指出，到2030年，AI 生成內容市場將達5000億美元，但濫用風險可能引致監管風暴。字節跳動作為中國 AI 領軍企業，此舉回應咗國家 AI 治理政策，例如2025年《生成式人工智能服務管理暫行辦法》。全球範圍內，美國 FCC 同歐盟亦加強 Deepfake 管制，科技巨頭如 Meta 同 Google 已內建類似限制。
對字節跳動嚟講，暫停係策略性退讓。公司2025年喺 AI 嘅投資超過百億美元，Seedance 2.0 係其生態關鍵一環。此舉避免咗潛在爭議，推動可持續創新。分析師認為，呢個決定會加速行業向「負責任 AI」轉型。
未來展望：安全與創新雙輪驅動
Seedance 2.0 嘅暫停唔係終結，而係新開始。字節跳動計劃喺2月底推出 API，支持開發者自訂安全過濾。隨住技術迭代，真人參考或會以更嚴格嘅形式回歸。對創作者嚟講，呢件事提醒我哋：AI 嘅強大要配合責任。
喺 Deepfake 時代，Seedance 2.0 嘅調整好似一記警鐘，呼籲科技同倫理並行。你會點睇呢個變化？或者，佢會催生更安全嘅 AI 黃金時代。
▶️ 鍾意呢篇內容？創作真係好辛苦！
歡迎關注我哋嘅 YouTube 頻道：
AI Rosetta
你嘅讚好、訂閱同分享，係對我哋最大嘅支持！🙏
更多 AI 新聞請訪問：https://www.airosetta.com