- +1
Seedance爆火背后:真假難辨和個人隱私受關注,AI創(chuàng)作如何守住邊界?

seedance2.0。本文圖片 視覺中國
近日,字節(jié)跳動旗下AI視頻生成模型Seedance2.0在小范圍內(nèi)測階段席卷海內(nèi)外互聯(lián)網(wǎng),憑借多模態(tài)輸入、文本/圖片生成電影級視頻等優(yōu)勢,這款AI大模型迅速引爆網(wǎng)絡。
《黑神話·悟空》制作人、游戲科學CEO馮驥評價這是“Kill the game(殺死比賽)”級別的產(chǎn)品,并表示“AIGC的童年時代結(jié)束了”。

《黑神話·悟空》制作人、游戲科學CEO馮驥。
馮驥認為,Seedance是當前地表最強視頻生成模型、AI理解多模態(tài)信息能力完成飛躍、呼吁有條件者親自體驗以直觀感受其“領先”與“全能”、視頻制作成本將趨近算力邊際成本、視頻將向定制化實時化游戲化演進,以及假視頻泛濫可能引發(fā)信任危機。
針對AI技術帶來的信任危機,馮驥建議:“請大家盡快提醒父母與不熟悉AI的親友,未來一切缺乏官方權威渠道背書的視頻內(nèi)容(尤其是包含個人形象與聲音的)都可能是偽造的。請務必通過多渠道交叉確認,避免上當。”
模型在真實感上的突出表現(xiàn),不少網(wǎng)友擔憂,大量真假難辨以及未經(jīng)本人許可的AI視頻在網(wǎng)絡傳播可能混淆現(xiàn)實,引發(fā)AI相關的安全質(zhì)疑。

2月9日,即夢創(chuàng)作者社群中,平臺運營人員發(fā)布消息稱:“Seedance 2.0 在內(nèi)測期間收獲了遠超預期的關注,感謝大家的使用反饋。為了保障創(chuàng)作環(huán)境的健康可持續(xù),我們正在針對反饋進行緊急優(yōu)化,目前暫不支持輸入真人圖片或視頻作為主體參考”,并表示平臺深知創(chuàng)意的邊界是尊重,產(chǎn)品調(diào)整后會以更完善的面貌與大家正式見面。
一位AI業(yè)內(nèi)人士向記者評論稱,Seedance 2.0 真正“恐怖”的地方在于,它表面是視頻生成工具,實際上干的是導演和剪輯的工作,同樣的素材,給不同的人剪,結(jié)果天差地別。這和素材本身關系不大,本質(zhì)是剪輯思維的差距:分鏡和分鏡之間如何找剪輯點,哪怕只錯幾幀,觀感都會完全變樣,這是影視從業(yè)者相對于 AI 視頻最大的壁壘,也是一直以來的護城河。
“Seedance 2.0 的出現(xiàn)在于直接拆這條護城河:Seedance 2.0 成片,厲害的并不是一致性,而是那種非常自然、甚至接近專業(yè)剪輯水平的分鏡切換——要做到這種效果,甚至不需要精確指定每幾秒切一個分鏡,只給一個統(tǒng)籌層面的提示詞就夠了?!痹撊耸刻寡?,這也意味著AI視頻和真人的界限正在逐漸模糊。
澎湃新聞記者體驗發(fā)現(xiàn),目前在即夢web端、小云雀等平臺使用Seedance 2.0,平臺會提示暫不支持真人人臉參考;在即夢app和豆包app,用戶需要錄制本人形象與聲音完成真人校驗后才可以制作數(shù)字分身,在AI視頻中出鏡。
一名AI創(chuàng)作者介紹,自己第一時間參加Seedance 2.0內(nèi)測,當時就發(fā)現(xiàn)不支持上傳名人明星真人形象作為參考,說明平臺還是很重視安全性,但確實模型效果非常突出,只靠審核攔截可能有一定滯后性。他表示,目前Seedance 2.0限制真人人臉上傳后,自己的一些創(chuàng)作腦洞已經(jīng)無法生成,“但從行業(yè)長期發(fā)展的角度來看,當下的限制是很負責任的。”

北京航空航天大學人工智能研究院教授沙磊認為,現(xiàn)在Seedance 2.0還在小范圍內(nèi)測階段,字節(jié)也限制了一部分模型功能,比如只有在進行活體認證的情況下可以生成真人視頻,不支持輸入真人圖片或視頻做主體參考等,以防止AI技術被濫用,“這種嘗試是企業(yè)在技術狂奔時要守住的責任底線”。他表示,AI 的進步從不會因爭議停下腳步,而如何在技術創(chuàng)新與數(shù)據(jù)合規(guī)、版權保護之間找到平衡,讓技術突破的紅利真正惠及行業(yè)與用戶,不僅是字節(jié)或某家公司需要持續(xù)探索的問題,更是全球 AI 產(chǎn)業(yè)共同的命題。
中國科學院軟件研究所研究員張立波向記者表示,基于公開數(shù)據(jù)進行大模型的訓練與調(diào)優(yōu),是全球AI行業(yè)普遍采用的技術路徑。這一實踐在大語言模型時期就已存在,模型訓練使用了海量的書籍、博客、論壇等文本數(shù)據(jù)。由于文字內(nèi)容的歸屬感相對較低,而聲音和視頻則具有更強的個人與場景特定性,因此當前階段,數(shù)據(jù)使用的責任與邊界問題更加凸顯。
大部分生成模型也普遍遵循這一路徑,例如谷歌的Gemini多模態(tài)模型和Veo 3視頻生成模型,使用了超過200億個YouTube視頻片段;OpenAI的Sora模型以及Stability AI的Stable Diffusion等,其訓練也依賴于海量的公開及許可視頻數(shù)據(jù)。
張立波認為,技術發(fā)展往往領先于行業(yè)規(guī)則的建立,為了實現(xiàn)更好的模型效果,就需要更多的公開數(shù)據(jù)進行訓練。與此同時,訓練過程中可能涉及的內(nèi)容借鑒、版權關聯(lián)等議題,也成為技術突破和行業(yè)發(fā)展必須面對的共性挑戰(zhàn)。但也清醒認識到,如何在此過程中更好地保護公眾個人隱私,并確保生成內(nèi)容的安全可靠,是亟待社會各界共同推動解決的重要課題。
互聯(lián)網(wǎng)巨頭的AI春節(jié)大戰(zhàn)已經(jīng)一觸即發(fā)。

2月10日,豆包宣布“豆包過年”新春活動正式開啟,活動期間將為用戶發(fā)放新春紅包。此外,除夕夜的中央廣播電視總臺2026年春晚期間,豆包還將為全國觀眾送出超過10萬份接入豆包大模型的科技好禮,以及現(xiàn)金紅包。

騰訊元寶紅包
2月10日,騰訊宣布元寶春節(jié)紅包活動玩法升級,元寶派掉落紅包玩法正式上線,聊天就能領紅包。此外,2月10日至2月16日期間,在微信對話框輸入特定關鍵詞,就可以觸發(fā)元寶定制紅包雨,有機會抽中現(xiàn)金紅包。

千問APP
早在2月6日,阿里千問APP“春節(jié)30億大免單”就正式上線,發(fā)起奶茶攻勢,請全國人民用AI一句話免費點奶茶。此次千問30億元春節(jié)請客計劃,在阿里歷史上的春節(jié)活動中投入最大,在今年春節(jié)大廠AI大戰(zhàn)中投入金額也最高。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯(lián)網(wǎng)新聞信息服務許可證:31120170006
增值電信業(yè)務經(jīng)營許可證:滬B2-2017116
? 2014-2026 上海東方報業(yè)有限公司




