“AI魔改”視頻 圖片由人機(jī)協(xié)同生成

近期，一段“諸葛亮開直播帶貨”的視頻，在部分網(wǎng)絡(luò)平臺傳播。視頻中，羽扇綸巾的“諸葛亮”對著鏡頭用現(xiàn)代話術(shù)推銷商品，彈幕里飄著“劉備”“司馬懿”的評論，內(nèi)容荒誕。這些通過AI生成的“魔改”視頻，常以歪曲、低俗化的方式改編經(jīng)典文藝形象與歷史敘事，通過網(wǎng)絡(luò)平臺的傳播，對青少年群體產(chǎn)生不良影響。

為整治“AI魔改”亂象，國家廣播電視總局自2026年1月1日起，在全國范圍內(nèi)開展為期一個月的專項(xiàng)治理，要求網(wǎng)絡(luò)視聽平臺落實(shí)主體責(zé)任，強(qiáng)化內(nèi)容審核把關(guān)，堅(jiān)決清理違規(guī)內(nèi)容，處置亂象突出的賬號，扭轉(zhuǎn)“AI魔改”視頻蔓延的不良態(tài)勢，為青少年健康成長營造良好網(wǎng)絡(luò)空間。

“AI魔改”視頻的網(wǎng)友評論 劉胤衡制圖

“AI魔改”現(xiàn)象引人憂

中青報(bào)·中青網(wǎng)記者采訪的多位家長表達(dá)了對“AI魔改”現(xiàn)象的擔(dān)憂。北京家長王曼曼（化名）說，她10歲的兒子最近?？础案阈Π鏆v史人物”視頻，“雖然視頻里的人物名字大家都熟悉，但行為和臺詞完全不對，孩子有時會當(dāng)真，還拿這些內(nèi)容來考我們”。她擔(dān)心這種情況會影響孩子對歷史知識的學(xué)習(xí)。

深圳家長陳晨（化名）發(fā)現(xiàn)，上小學(xué)的女兒在看過一些“暗黑風(fēng)格”的卡通改編短片后，夜間會害怕，問家長“為什么可愛的卡通人物會受傷流血”。

在一些獵奇“AI魔改”視頻的評論區(qū)，有網(wǎng)友留言稱“第一次看很新奇，看多了就只剩無聊”。不少網(wǎng)友表達(dá)對過度“AI魔改”的不滿，認(rèn)為這類內(nèi)容“毫無內(nèi)涵”“令人不適”。

有業(yè)內(nèi)人士揭示此類內(nèi)容得以傳播的機(jī)制：這些新奇、反常甚至令人不適的“AI魔改”橋段，往往第一時間抓人眼球，觸發(fā)算法的推薦機(jī)制，從而獲得流量。一些制作者便以此為捷徑，將AI創(chuàng)作重心放在制造反差及追求感官刺激上。

追逐流量變現(xiàn)“怎么離譜怎么來”

這些內(nèi)容的走紅并非偶然，制作和傳播“AI魔改”視頻已形成一套完整的運(yùn)作體系。

自媒體博主金宇（化名）在網(wǎng)絡(luò)平臺上看到一條改編自《甄嬛傳》的AI生成視頻，內(nèi)容與原劇情節(jié)形成巨大反差，獲得很高的互動數(shù)據(jù)。這讓他意識到此類內(nèi)容可能存在市場機(jī)會，于是開始模仿制作。

金宇介紹，通常制作者需要先從影視作品中獲取原始畫面素材，隨后使用具備“圖生視頻”功能的AI工具，對靜態(tài)畫面輸入特定文字指令，例如要求畫面中人物做出某種不符合原劇設(shè)定的現(xiàn)代行為，就此生成一段反差感十足的動態(tài)短片。

若需讓人物“說”出新的臺詞，流程則更為復(fù)雜，需結(jié)合語音克隆與口型同步技術(shù)，先復(fù)制演員音色生成新語音，再調(diào)整人物嘴型與之匹配。最后，通過剪輯軟件將生成的視頻片段、音效與字幕進(jìn)行合成。

金宇告訴記者，運(yùn)營“AI魔改”賬號的核心在于“蹭熱點(diǎn)”。他舉例，“比如‘甄嬛會武術(shù)’的‘魔改’視頻火了，我們要將同一創(chuàng)意‘遷移’到《紅樓夢》中的林黛玉、《三國演義》中的關(guān)羽等經(jīng)典人物身上，快速制作出‘黛玉會武術(shù)’‘關(guān)羽會武術(shù)’等一系列內(nèi)容?！?/p>

自媒體博主徐青（化名）說，“AI魔改”的關(guān)鍵在于制造強(qiáng)烈的反差感與新奇感，例如讓古裝人物使用現(xiàn)代物品，或演繹完全不符合其原本身份的行為。他認(rèn)為，這種極致的反差是內(nèi)容在網(wǎng)絡(luò)平臺獲取瞬時關(guān)注的有效手段。

驅(qū)動整個流程運(yùn)轉(zhuǎn)的終極目標(biāo)是流量變現(xiàn)。據(jù)金宇介紹，最基礎(chǔ)的變現(xiàn)方式是通過多個平臺發(fā)布內(nèi)容，依靠播放量獲取平臺補(bǔ)貼。當(dāng)賬號粉絲數(shù)量增長到一定規(guī)模時，就可能接到商業(yè)廣告訂單。

此外，“教人做號”也成為一條生財(cái)之道。徐青建立了一個數(shù)百人的付費(fèi)社群，將相關(guān)操作歸納為一套標(biāo)準(zhǔn)流程進(jìn)行傳授，從素材獲取、AI生成、音頻處理，到后期合成等環(huán)節(jié)，都有對應(yīng)的工具軟件。

視頻創(chuàng)作者對流量變現(xiàn)的追逐，是此類內(nèi)容滑向“怎么離譜怎么來”的重要推手?！啊瓵I魔改’的核心不是創(chuàng)作，而是想盡辦法把流量快速變成錢?！毙烨嘀毖浴?/p>

“AI魔改”治理正當(dāng)時

業(yè)內(nèi)人士認(rèn)為，隨著對AI生成內(nèi)容治理不斷推進(jìn)，平臺不僅是信息分發(fā)的“通道”，更應(yīng)被視為網(wǎng)絡(luò)內(nèi)容生態(tài)的“第一責(zé)任人”與“核心治理主體”，須對所傳播內(nèi)容的安全性與導(dǎo)向性承擔(dān)明確管理責(zé)任。

2024年年底，“全國首例AI文生視頻侵權(quán)糾紛案”宣判。湖南省長沙市開福區(qū)人民法院認(rèn)定某網(wǎng)絡(luò)公司通過其開發(fā)的“AI一鍵成片”功能，非法傳播《慶余年》短視頻片段行為構(gòu)成侵權(quán)，判令其賠償原告《慶余年》版權(quán)方某科技公司經(jīng)濟(jì)損失及合理支出共計(jì)80萬元，并立即停止侵權(quán)行為。長沙市中級人民法院二審維持原判決。

長沙市開福區(qū)人民法院審理認(rèn)為，本案中，某網(wǎng)絡(luò)公司沒有獲得權(quán)利人的授權(quán)，就通過某軟件的AI功能，向用戶提供3秒到7秒的《慶余年》片段，涉案作品素材片段屬于視聽作品的組成部分，具有獨(dú)創(chuàng)性，應(yīng)當(dāng)受到法律保護(hù)，網(wǎng)絡(luò)公司將素材片段上傳至服務(wù)器，使公眾能夠自主獲得，該行為已落入信息網(wǎng)絡(luò)傳播權(quán)控制范圍。作為AI服務(wù)的提供者，網(wǎng)絡(luò)公司沒有履行應(yīng)盡的注意義務(wù)，也沒有建立有效的知識產(chǎn)權(quán)侵權(quán)風(fēng)險防范機(jī)制。法院認(rèn)定被告公司通過AI功能傳播《慶余年》片段的行為存在明顯過錯，侵犯了原告的信息網(wǎng)絡(luò)傳播權(quán)。

2月2日，國家廣播電視總局發(fā)布“AI魔改”視頻專項(xiàng)治理工作進(jìn)展通報(bào)，指出專項(xiàng)治理工作啟動以來，各主要網(wǎng)絡(luò)視聽平臺切實(shí)履行主體責(zé)任，強(qiáng)化排查處置，抓好落實(shí)整改，查處一批違法違規(guī)典型案例，確保治理取得實(shí)效。在專項(xiàng)治理期間，累計(jì)清理相關(guān)違規(guī)視頻2.3萬條、處置違規(guī)賬號100余個。

通報(bào)稱，將持續(xù)開展“AI魔改”視頻治理工作，構(gòu)建常態(tài)化、制度化的長效機(jī)制，堅(jiān)持標(biāo)本兼治，督導(dǎo)各網(wǎng)絡(luò)視聽平臺進(jìn)一步強(qiáng)化主體責(zé)任，持續(xù)營造健康的網(wǎng)絡(luò)視聽空間。

相關(guān)網(wǎng)絡(luò)平臺發(fā)布治理報(bào)告。淘寶平臺2月1日發(fā)布專項(xiàng)治理總結(jié)報(bào)告顯示，治理重點(diǎn)圍繞多個方面展開，包括嚴(yán)禁對四大名著、歷史及革命題材、英模故事等經(jīng)典作品進(jìn)行歪曲內(nèi)核、顛覆形象的改編；清理通過AI生成并傳播的含有低俗、暴力、獵奇或違背公序良俗的內(nèi)容；禁止篡改中華文明符號、混淆歷史，誤導(dǎo)文化認(rèn)同；全面清理以經(jīng)典動畫形象為原型惡意生成的恐怖、低俗等違規(guī)內(nèi)容，強(qiáng)化未成年人保護(hù)。

相關(guān)平臺表示將持續(xù)落實(shí)專項(xiàng)治理要求，提升對AI生成違規(guī)內(nèi)容的識別與處置能力，對違規(guī)內(nèi)容和賬號從嚴(yán)處理，并呼吁廣大用戶共同舉報(bào)違規(guī)行為，維護(hù)清朗有序的網(wǎng)絡(luò)社區(qū)環(huán)境。

警惕“AI魔改”給青少年帶來認(rèn)知混淆

“林黛玉”上演倒拔垂楊柳，“關(guān)羽”為一雙假皮鞋踏上維權(quán)路……近日，一些荒誕的“AI魔改”內(nèi)容在短視頻平臺上流傳，引發(fā)公眾對文化傳承、法律邊界與技術(shù)倫理的關(guān)注。中青報(bào)·中青網(wǎng)記者采訪多位法學(xué)專家，深入剖析“AI魔改”現(xiàn)象背后法律風(fēng)險與有效治理路徑。

“AI魔改”并非簡單的“圖一樂”，背后潛藏的法律風(fēng)險呈現(xiàn)多層次、交叉性特點(diǎn)?！啊瓵I魔改’主要涉及兩大類作品?！敝袊ù髮W(xué)知識產(chǎn)權(quán)法研究所所長付繼存指出，一類是對已進(jìn)入公有領(lǐng)域的經(jīng)典作品（如文學(xué)名著）進(jìn)行篡改，這可能侵害作者的保護(hù)作品完整權(quán)，即禁止他人歪曲、篡改其作品的權(quán)利。“即便原著版權(quán)保護(hù)期屆滿，其獨(dú)創(chuàng)性的角色形象與精神內(nèi)核仍受法律保護(hù)?！?/p>

他以“關(guān)羽”形象為例解釋，歷史人物關(guān)羽的事跡屬于公共素材，但作者在《三國演義》中塑造的“忠義關(guān)羽”經(jīng)典形象，是受法律保護(hù)的獨(dú)創(chuàng)性表達(dá)?！癆I魔改”將這一形象置于荒誕的劇情中，是對該藝術(shù)形象的扭曲，可能構(gòu)成侵權(quán)。

另一類則是對仍在著作權(quán)保護(hù)期內(nèi)的作品進(jìn)行“魔改”，比如當(dāng)代影視劇，涉及的法律問題更為復(fù)雜。付繼存稱，這類“魔改”行為可能同時侵犯著作權(quán)人的復(fù)制權(quán)、改編權(quán)、信息網(wǎng)絡(luò)傳播權(quán)等多項(xiàng)財(cái)產(chǎn)權(quán)，以及保護(hù)作品完整權(quán)等著作人身權(quán)。

中國政法大學(xué)副教授朱巍認(rèn)為，“魔改”行為突破法律邊界，往往不止于著作權(quán)范疇，還可能侵入人格權(quán)領(lǐng)域?！叭绻Ц摹瘍?nèi)容使用了影視劇中演員的肖像、聲音，涉嫌侵犯演員的肖像權(quán)、聲音權(quán)；即便演員已故，其近親屬仍有權(quán)尋求法律保護(hù)?！彼麖?qiáng)調(diào)，若是對英雄烈士的形象進(jìn)行惡意篡改，可能觸犯英雄烈士保護(hù)法，損害社會公共利益，檢察機(jī)關(guān)可依法提起公益訴訟。

值得注意的是，若“魔改”行為涉及商業(yè)屬性，法律規(guī)制更為嚴(yán)格。“以引流、變現(xiàn)為目的，利用他人知名形象進(jìn)行‘魔改’創(chuàng)作的，可能構(gòu)成不正當(dāng)競爭?！备独^存說。

中青報(bào)·中青網(wǎng)記者注意到，與傳統(tǒng)惡搞內(nèi)容不同，“AI魔改”的內(nèi)容制作更為逼真，比如，“林黛玉”神態(tài)靈動、口型精準(zhǔn)對位，“關(guān)羽”的語音語調(diào)幾乎能以假亂真。技術(shù)的迭代升級，讓一些惡搞內(nèi)容真假難辨。

“這類由新技術(shù)生成的內(nèi)容隱蔽性更強(qiáng)，有的看似真實(shí)又權(quán)威，對未成年人的誤導(dǎo)性更大。”北京青少年法律援助與研究中心執(zhí)行主任于旭坤注意到，AI生成內(nèi)容形態(tài)多變，用傳統(tǒng)關(guān)鍵詞過濾手段難以有效識別，且這類內(nèi)容制作門檻低，一經(jīng)算法推薦，極易形成病毒式擴(kuò)散。

“一些未成年人分不清虛構(gòu)與現(xiàn)實(shí)的邊界。”于旭坤說，很多00后、10后青少年并未讀過《紅樓夢》原著，也沒看過87版經(jīng)典電視劇，他們對“林黛玉”的初次認(rèn)知，或許就是那個“倒拔垂楊柳”的“AI魔改”版本，這可能造成他們深層的認(rèn)知混淆。

朱巍對此表示認(rèn)同，“當(dāng)四大名著、革命歷史被戲謔、解構(gòu)，一個民族共同的文化記憶和歷史史實(shí)會在無形中被侵蝕。這絕非危言聳聽，而是關(guān)乎文化自信根基的嚴(yán)肅問題?！?/p>

于旭坤指出，更需要警惕“AI邪典”，即利用AI生成的恐怖、暴力內(nèi)容，偽裝成兒童動畫傳播?！斑@類內(nèi)容制作門檻低，傳播速度快，會對未成年人心理健康造成直接損害?！?/p>

面對海量AI違規(guī)內(nèi)容，傳統(tǒng)治理框架面臨挑戰(zhàn)。共青團(tuán)中央維護(hù)青少年權(quán)益部聯(lián)合北京青少年法律援助與研究中心專家團(tuán)隊(duì)編寫的《AI科學(xué)使用手冊》，于1月19日正式發(fā)布，旨在引導(dǎo)青少年提升AI使用技能、科學(xué)有序用好AI、自覺防范AI沉溺，提升自主學(xué)習(xí)能力，回歸真實(shí)社會交往。

監(jiān)管層面在持續(xù)發(fā)力。今年年初，國家廣電總局開展專項(xiàng)行動，重點(diǎn)整治以四大名著、歷史題材、革命題材、英模人物等相關(guān)電視劇作品為藍(lán)本的“AI魔改”內(nèi)容。2025年9月，國家網(wǎng)信辦等部門聯(lián)合制定《人工智能生成合成內(nèi)容標(biāo)識辦法》，要求AI生成內(nèi)容必須強(qiáng)制亮明“數(shù)字身份證”。

記者采訪中，專家一致認(rèn)為，平臺不應(yīng)再以“技術(shù)中立”和被動的“通知-刪除”規(guī)則作為擋箭牌。于旭坤強(qiáng)調(diào)，平臺須承擔(dān)起與自身技術(shù)能力相匹配的主體責(zé)任，主動搭建AI內(nèi)容識別機(jī)制，對高風(fēng)險賬號和內(nèi)容實(shí)施重點(diǎn)監(jiān)管，同時暢通舉報(bào)渠道、完善快速處置通道。

付繼存提出要打好平臺系統(tǒng)性治理的“組合拳”：平臺可主動獲取經(jīng)典IP授權(quán)，為用戶提供合規(guī)二創(chuàng)素材，引導(dǎo)創(chuàng)作生態(tài)走向規(guī)范，同時探索收益分成模式；優(yōu)化算法機(jī)制，對低質(zhì)、惡搞、篡改歷史的內(nèi)容實(shí)施限流、降權(quán)，切斷其流量變現(xiàn)的利益鏈條；構(gòu)建創(chuàng)作者AI版權(quán)信用檔案，對頻繁侵權(quán)者采取封號、禁止重新注冊等懲戒措施，提高違法成本。

朱巍指出，治理“AI魔改”需要“用技術(shù)對抗技術(shù)”，發(fā)展更智能的AI識別系統(tǒng)，應(yīng)對海量內(nèi)容審核。針對涉及重大歷史、英烈等特殊內(nèi)容，必須保留必要的人工審核環(huán)節(jié)，確保價值判斷的準(zhǔn)確性?！岸蝿?chuàng)作是文化創(chuàng)新和經(jīng)典傳承的重要形式，不能因治理‘魔改’而扼殺健康的創(chuàng)作活力。”朱巍強(qiáng)調(diào)。

在朱巍看來，當(dāng)前法律框架已基本完備，英雄烈士保護(hù)法、民法典等都有相應(yīng)規(guī)定?！瓣P(guān)鍵在于執(zhí)法與司法環(huán)節(jié)充分、有效運(yùn)用。”他認(rèn)為，治理“AI魔改”的核心，是在鼓勵創(chuàng)新與保護(hù)經(jīng)典、技術(shù)自由與法律規(guī)范、個人表達(dá)與公共利益之間，找到動態(tài)、可持續(xù)的平衡點(diǎn)。

付繼存建議，構(gòu)建監(jiān)管部門、平臺、行業(yè)組織、用戶多方參與的共治體系，可借鑒著作權(quán)集體管理模式，探索建立經(jīng)典文化符號的正規(guī)授權(quán)渠道；同時未來立法中進(jìn)一步細(xì)化對“深度合成技術(shù)”應(yīng)用的規(guī)制，對涉及經(jīng)典文化符號、歷史人物等的內(nèi)容設(shè)置更高保護(hù)層級，針對惡意牟利的“AI魔改”行為，引入更嚴(yán)格的懲罰性賠償機(jī)制。

“唯有在嚴(yán)明的法律框架內(nèi)，在技術(shù)向善的導(dǎo)向下，才能讓AI真正成為賦能文化繁榮的利器?！敝煳≌f。