11月14日，公安部網(wǎng)安局發(fā)布文章《聽說過AI造謠嗎？》，公布了AI造謠的典型案例、特點和危害，提醒大眾謹防AI造謠。

近年來，AI技術(shù)的發(fā)展為生活帶來了諸多便利，但濫用AI技術(shù)，尤其是AI語音合成技術(shù)，卻引發(fā)了一系列質(zhì)疑。利用AI語音合成技術(shù)，只需20秒就能生成一條高度逼真的音頻。不少用戶發(fā)布了相關(guān)視頻的生成教程，而這些視頻的配音大多源于某擬真語音大模型應(yīng)用。用戶只需上傳任意人物的一段音頻作為訓練素材，AI通過學習便能克隆出一個聲音角色，其他用戶輸入文本即可使用該聲音生成內(nèi)容。

一些短視頻平臺上涌現(xiàn)了大量利用AI軟件采集公眾人物原音生成的逼真配音視頻，其中不乏惡搞、造謠內(nèi)容，帶來了惡劣的社會影響。

國外AI造謠演變?yōu)榘粤韫ぞ?/strong>

14歲的西班牙女孩向母親米麗亞姆·阿迪布透露自己遭受網(wǎng)絡(luò)霸凌，她展示了一張包含自己臉部的露骨假照片，該照片在社交媒體上廣泛傳播。阿迪布作為婦科醫(yī)生，初看幾可亂真。類似事件近期也在英國和韓國發(fā)生，如韓國女孩Heejin發(fā)現(xiàn)自己的學生時期照片被用于制作假露骨照。

這些假照片由AI技術(shù)生成，稱為Deepfakes，通過深度學習技術(shù)制作逼真的虛假圖像、視頻或音頻。近年來，Deepfakes技術(shù)門檻不斷降低，甚至不懂AI的人也能輕松制作。這種技術(shù)不僅用于娛樂，還引發(fā)了假新聞、金融欺詐及針對青少年、兒童和女性的惡意露骨照片事件。

國內(nèi)AI造謠苗頭日盛

檢索AI造謠，檢索結(jié)果都是今年被警方破獲的新聞，瀟湘晨報11月14日報道《AI洗稿生產(chǎn)假新聞博流量，長沙2人被行拘！》，封面新聞10月17日報道《用AI軟件生成“成都大規(guī)模拆遷”等假消息！造謠者被處罰》廈門廣電網(wǎng)9月18日報道《移花接木、AI加持，一男子網(wǎng)上造謠被依法采取刑事強制措施》等，利用AI生產(chǎn)博取關(guān)注的內(nèi)容，贏得了流量，卻攪亂了整個社會，嚴重損害了偽造事件中涉及的人員、機構(gòu)聲譽。

使用AI需要承擔法律責任

濫用AI技術(shù)也帶來了法律風險。今年4月，北京互聯(lián)網(wǎng)法院宣判了全國首例AI生成聲音人格權(quán)侵權(quán)案，判決原告獲賠經(jīng)濟損失25萬元。該案對于厘清和把握AI生成聲音的邊界具有指導意義。

受訪專家表示，法律法規(guī)和治理手段要跟上科技發(fā)展的步伐，對AI技術(shù)的應(yīng)用進行明確的約束。AI應(yīng)用工具提供方應(yīng)把好第一道關(guān)，強化對源頭素材的把控和對生成內(nèi)容的監(jiān)管。同時，短視頻等傳播平臺也應(yīng)盡到相關(guān)義務(wù)，建立甄別和追蹤機制，對涉嫌偽造的內(nèi)容或接到相關(guān)投訴時，要求內(nèi)容發(fā)布者及時標識或刪除內(nèi)容，并視情況采取禁言、封號等措施。

編輯：澤文

審核/策劃：王子翼

三審：吳增輝

文章綜合雞西網(wǎng)警、封面新聞、環(huán)球網(wǎng)、廈門廣電網(wǎng)等媒體，圖片來源于網(wǎng)絡(luò)