“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”……這些聳人聽聞的消息，竟都是利用AI軟件炮制的謠言。日前，多地警方對(duì)部分MCN機(jī)構(gòu)負(fù)責(zé)人進(jìn)行了行政處罰，并封禁其網(wǎng)絡(luò)賬號(hào)。原因是利用AI大量生成謠言信息，用以賺取平臺(tái)的流量分成。

沒想到，有了AI“賦能”，一些別有用心者的造謠能力也大幅提升。這些MCN機(jī)構(gòu)通過AI軟件，給出關(guān)鍵詞，軟件便會(huì)自動(dòng)在網(wǎng)絡(luò)上抓取相關(guān)信息，生成幾百到上千字的文本，配上貌似和事件相關(guān)的虛假圖片，從而形成一篇看起來信息量很大，實(shí)際上子虛烏有的內(nèi)容。

其中江西南昌一家MCN機(jī)構(gòu)，最高峰一天能生成4000至7000篇，最高的一條收入700元，初步估算每天的收入在1萬元以上。經(jīng)警方調(diào)查，實(shí)際控制人王某某共經(jīng)營(yíng)5家MCN機(jī)構(gòu)，運(yùn)營(yíng)賬號(hào)842個(gè)。

這確實(shí)是令人觸目驚心的數(shù)字。有了新技術(shù)，造謠的成本近乎為零——甚至連時(shí)間成本都不需要了。這也意味著虛假信息擴(kuò)散的成本也急劇降低，可能對(duì)社會(huì)信息生態(tài)造成極大破壞，對(duì)這種行為不加以規(guī)制，可以想象信息空間會(huì)變成什么樣子。

事實(shí)上，監(jiān)管部門對(duì)網(wǎng)絡(luò)謠言的治理一直在持續(xù)。今年4月23日，網(wǎng)信辦在全國(guó)范圍內(nèi)開展為期兩個(gè)月的“清朗·整治‘自媒體’無底線博流量”專項(xiàng)行動(dòng)，整治的重點(diǎn)就包括“擺拍發(fā)布涉及國(guó)內(nèi)外時(shí)事、社會(huì)民生等領(lǐng)域虛假事件信息。拼湊剪接網(wǎng)絡(luò)視頻圖片，篡改事件發(fā)生的時(shí)間、地點(diǎn)、人物等要素，以假亂真欺騙公眾”。

魔高一尺，道高一丈。考慮到如今虛假信息生成能力之強(qiáng)，除了線下的查處，線上的治理手段恐怕也要進(jìn)行技術(shù)迭代。一個(gè)MCN機(jī)構(gòu)一天就能發(fā)布數(shù)千篇AI生成內(nèi)容，這意味著對(duì)互聯(lián)網(wǎng)空間的信息追蹤、關(guān)鍵詞捕獲、自然語言搜索等，都需要提高相應(yīng)的技術(shù)規(guī)格，以應(yīng)對(duì)這種批量生成、大水漫灌的新型信息亂象。

對(duì)此，擁有技術(shù)優(yōu)勢(shì)的平臺(tái)，更應(yīng)該肩負(fù)起主體責(zé)任。之所以這種造謠信息可以“玩得下去”，就是因?yàn)樗鼈冇欣蓤D。比如根據(jù)一些平臺(tái)規(guī)則，賬號(hào)根據(jù)閱讀、評(píng)論、轉(zhuǎn)發(fā)數(shù)量等獲取相關(guān)流量收益，每千人有效閱讀量有1—2元的獎(jiǎng)勵(lì)。

很多時(shí)候，不管平臺(tái)愿不愿意承認(rèn)，平臺(tái)也是謠言信息“獲益方”之一——大量信息聚集，可以極大提升平臺(tái)本身的活躍程度，所以有些平臺(tái)就疏于治理，甚至變相鼓勵(lì)這種能帶來流量的虛假信息生產(chǎn)。因此，要想從源頭上斬?cái)嘣熘{信息的利益鏈，恐怕還需要平臺(tái)通過更嚴(yán)格的信息過濾、賬號(hào)處理等，讓流量生意無利可圖。

其實(shí)在“清朗·整治‘自媒體’無底線博流量”專項(xiàng)行動(dòng)中，也對(duì)平臺(tái)做出了要求，比如短視頻和直播等重點(diǎn)平臺(tái)要加大對(duì)虛假擺拍信息的識(shí)別和清理力度，要求資訊類平臺(tái)清理標(biāo)題黨、要素欠缺、不具公共價(jià)值的“新黃色新聞”等。平臺(tái)應(yīng)當(dāng)意識(shí)到自身肩負(fù)的社會(huì)責(zé)任，切不可在流量的誘惑下，對(duì)這類信息睜一只眼閉一只眼。

類似的事件對(duì)公眾也是提醒。如今AI造假已經(jīng)零成本，讀者閱讀到這類聳人聽聞的信息時(shí)不妨多留個(gè)心眼，慎點(diǎn)轉(zhuǎn)發(fā)、評(píng)論鍵。在AI時(shí)代，信息的魚龍混雜程度已經(jīng)呈幾何級(jí)數(shù)增長(zhǎng)，應(yīng)當(dāng)更加審慎地判斷，切不可輕易被各類虛假信息撩撥情緒，落入信息陷阱之中。