盧越

“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”……這些聳人聽聞的消息，竟都是利用AI軟件炮制的謠言——據(jù)央視新聞報(bào)道，近日，一些不法分子為賺取平臺(tái)流量補(bǔ)貼，實(shí)現(xiàn)流量變現(xiàn)，利用AI合成技術(shù)編造謠言，嚴(yán)重?cái)_亂社會(huì)秩序。多地警方對(duì)相關(guān)責(zé)任人進(jìn)行了行政處罰，并封禁其網(wǎng)絡(luò)賬號(hào)。

與以往靠自身發(fā)揮想象力杜撰“小作文”不同，如今利用AI造謠的門檻和成本更低。只需要輸入關(guān)鍵詞，AI軟件就能自動(dòng)在網(wǎng)絡(luò)上抓取素材生成文本，再配上貌似和事件具有相關(guān)性的虛假圖片，一條圖文并茂、“有圖有真相”的謠言就誕生了。

可怕的是，這一過程基本不需要人的參與，就可實(shí)現(xiàn)謠言的批量生產(chǎn)。比如，發(fā)布“西安爆炸”虛假新聞的賬號(hào)所屬機(jī)構(gòu)，最高峰一天能生成4000至7000篇假新聞，每天收入在1萬元以上，而公司實(shí)際控制人王某某經(jīng)營著5家這樣的機(jī)構(gòu)，運(yùn)營賬號(hào)達(dá)842個(gè)，這一數(shù)字觸目驚心，令人十分不安。

造謠難度降低了，其產(chǎn)生的負(fù)面影響陡然增大。AI造謠能生成極為逼真的圖片、音視頻，這就顛覆了“有圖有真相”的常規(guī)認(rèn)知，蠱惑性極強(qiáng)。以新聞報(bào)道的口吻生成所謂的“突發(fā)新聞”，再配上聳人聽聞的標(biāo)題，短時(shí)間內(nèi)就能快速傳播，讓不明真相的民眾輕信，易引發(fā)社會(huì)恐慌，擾亂社會(huì)公共秩序，對(duì)社會(huì)信息生態(tài)造成極大的破壞，而相關(guān)部門的查證、辟謠則要浪費(fèi)大量的社會(huì)資源。

造謠、發(fā)布、擴(kuò)散，說到底，是有人看到這背后有利可圖。在警方查獲的數(shù)起造謠案件中，當(dāng)事人將虛假消息發(fā)布在平臺(tái)，平臺(tái)會(huì)根據(jù)文章的點(diǎn)贊數(shù)和閱讀量支付相應(yīng)的報(bào)酬。在這一規(guī)則的刺激下，不法分子利用AI技術(shù)“加持”，追求謠言更逼真、內(nèi)容更獵奇、傳播更快更廣，博取更多眼球，從而牟取流量帶來的巨大經(jīng)濟(jì)利益。

刺破不法流量經(jīng)濟(jì)的美夢(mèng)，需要法律利刃出鞘。一些人奉行流量至上，心中既無法律觀念，也無道德底線，甚至把沖撞法律紅線的行為當(dāng)成流量密碼、炫耀資本。網(wǎng)絡(luò)并非法外之地，在互聯(lián)網(wǎng)造謠情節(jié)嚴(yán)重的，將被依法追究法律責(zé)任，這應(yīng)該成為懸在每個(gè)網(wǎng)民頭上的警鐘。同時(shí)，懲處造謠的力度也要再有力一些，讓造謠成本再大一些。

謠言通過平臺(tái)發(fā)布傳播，平臺(tái)理應(yīng)負(fù)起主體責(zé)任。作為具有技術(shù)優(yōu)勢(shì)的一方，平臺(tái)要在內(nèi)容甄別、阻斷謠言、防止擴(kuò)散方面積極主動(dòng)作為。現(xiàn)有的內(nèi)容監(jiān)管機(jī)制還有哪些漏洞、分成機(jī)制是否合理、處罰措施是否完善，這些都應(yīng)該成為平臺(tái)查漏補(bǔ)缺的重點(diǎn)。對(duì)于造謠者，該警示警示，該截流截流，該封號(hào)封號(hào)，讓毒流量“利盡而斷”。

造謠手段在迭代，相關(guān)治理也要使出“加強(qiáng)版”新招兒。監(jiān)管部門對(duì)網(wǎng)絡(luò)謠言的出擊一直在持續(xù)。面對(duì)AI技術(shù)生成的新型謠言，執(zhí)法監(jiān)管要利用技術(shù)賦能，讓識(shí)別謠言的精準(zhǔn)度更高、阻擊速度更快、打擊力度更強(qiáng)，斬?cái)嘣熘{背后的黑灰產(chǎn)業(yè)鏈，營造清朗網(wǎng)絡(luò)空間。