字節(jié)跳動旗下最新視頻生成模型Seedance 2.0近日在即夢、豆包、小云雀等平臺啟動內(nèi)測，迅速成為科技領(lǐng)域焦點(diǎn)話題。這款以"超寫實(shí)"為賣點(diǎn)的生成工具，憑借對光影、紋理和動態(tài)細(xì)節(jié)的精準(zhǔn)還原能力，在測試階段便引發(fā)國內(nèi)外用戶廣泛討論。值得注意的是，部分用戶擔(dān)憂其生成內(nèi)容可能達(dá)到"以假亂真"的程度，進(jìn)而對現(xiàn)實(shí)認(rèn)知造成干擾。

面對技術(shù)突破與倫理爭議的雙重關(guān)注，項(xiàng)目團(tuán)隊(duì)于2月9日通過即夢創(chuàng)作者社群發(fā)布公告。運(yùn)營人員表示："內(nèi)測期間用戶參與度遠(yuǎn)超預(yù)期，我們收到大量關(guān)于內(nèi)容真實(shí)性的反饋。為維護(hù)健康創(chuàng)作生態(tài)，即刻起暫停接受真人圖像或視頻作為生成主體，相關(guān)優(yōu)化工作正在緊急推進(jìn)。"公告特別強(qiáng)調(diào)，技術(shù)發(fā)展需以尊重創(chuàng)意邊界為前提，產(chǎn)品將以更嚴(yán)謹(jǐn)?shù)男螒B(tài)回歸市場。

據(jù)技術(shù)文檔顯示，Seedance 2.0采用多模態(tài)融合架構(gòu)，在物理引擎模擬和語義理解層面實(shí)現(xiàn)突破。其生成的虛擬場景中，人物微表情、衣物褶皺等細(xì)節(jié)均達(dá)到影視級精度，這既為影視制作、廣告營銷等領(lǐng)域帶來創(chuàng)新可能，也引發(fā)關(guān)于深度偽造風(fēng)險(xiǎn)的討論。有網(wǎng)絡(luò)安全專家指出，此類技術(shù)若被惡意使用，可能對個人隱私、社會信任體系造成沖擊。

目前，字節(jié)跳動已成立跨部門倫理審查小組，從技術(shù)限制、內(nèi)容標(biāo)識、用戶教育三方面構(gòu)建防護(hù)體系。除暫停真人素材輸入外，平臺還將引入數(shù)字水印技術(shù)，對生成內(nèi)容進(jìn)行不可逆標(biāo)記。這些調(diào)整預(yù)計(jì)將在完成壓力測試后逐步實(shí)施，具體時間表尚未對外公布。