胡欣紅

近期，多地公安機(jī)關(guān)發(fā)布了多起利用AI工具實施造謠的相關(guān)案件。上海市公安局城市軌道和公交總隊發(fā)布警情通報：兩名營銷人員為博取關(guān)注造謠地鐵站發(fā)生持刀傷人的情況，被上海警方依法處以行政拘留。其中一人使用AI軟件生成視頻技術(shù)，編造了地鐵行兇的虛假視頻等不實信息發(fā)布到網(wǎng)上，造成惡劣社會影響。

信息時代，各種資訊滿天飛，有些事情本身就真假難辨，容易混淆視聽。謠言往往具有傳播速度快、影響范圍廣的特點，一旦形成規(guī)模，就會對社會秩序和社會穩(wěn)定造成威脅。使用AI技術(shù)讓造謠更加便捷和高效，并提升了謠言的數(shù)量級和傳播力，進(jìn)一步加劇了謠言的危害性。去年，上海發(fā)生一起女童走失事件，一個造謠團(tuán)伙以“標(biāo)題黨”“震驚體”方式，惡意編造炒作“女孩父親系繼父”“女孩被帶往溫州”等系列謠言。該團(tuán)伙利用AI工具等生成謠言內(nèi)容，通過114個賬號矩陣，在6天內(nèi)發(fā)布268篇文章，多篇文章點擊量超過100萬次。

鑒于自媒體造謠嚴(yán)重傷害了網(wǎng)絡(luò)生態(tài)，監(jiān)管部門依法加大了對網(wǎng)絡(luò)謠言的打擊力度。今年4月，中央網(wǎng)信辦部署在全國范圍內(nèi)開展為期兩個月的“清朗·整治‘自媒體’無底線博流量”專項行動，整治的重點之一是“擺拍發(fā)布涉及國內(nèi)外時事、社會民生等領(lǐng)域虛假事件信息。拼湊剪接網(wǎng)絡(luò)視頻圖片，篡改事件發(fā)生的時間、地點、人物等要素，以假亂真欺騙公眾”。

不得不說，目前網(wǎng)絡(luò)造謠的成本還是太低了。據(jù)央視報道，江西南昌一家MCN機(jī)構(gòu)使用AI技術(shù)，最高峰一天生成4000至7000篇謠言，最高的一條收入700元，初步估算每天收入1萬元以上，但相關(guān)責(zé)任人僅僅被處以行政拘留5日。

《刑法》第291條規(guī)定：“編造虛假的險情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。”據(jù)此，對網(wǎng)絡(luò)造謠（及故意或惡意傳謠）行為，除治安處罰外，情節(jié)嚴(yán)重的應(yīng)追究刑事責(zé)任，切實提高其造謠成本，方能以儆效尤。

AI造謠呈現(xiàn)出門檻低、批量化、識別難等特點，亟待加強(qiáng)監(jiān)管，斬斷背后利益鏈條。線下的懲處力度固然要加強(qiáng)，線上的技術(shù)監(jiān)管和追蹤也要更新迭代。利用AI技術(shù)批量造謠往往涉及大量的網(wǎng)絡(luò)活動和數(shù)據(jù)傳輸，相關(guān)部門應(yīng)加強(qiáng)對網(wǎng)絡(luò)空間的監(jiān)管和追蹤，及時發(fā)現(xiàn)和處置謠言信息。

對于涉及的網(wǎng)絡(luò)平臺，也應(yīng)追究其監(jiān)管責(zé)任。用技術(shù)解決技術(shù)，用魔法打敗魔法，在大數(shù)據(jù)和新技術(shù)面前，識別利用AI炮制的垃圾信息，并沒有那么困難。如果平臺未能有效監(jiān)管和清理謠言信息，應(yīng)依法對其進(jìn)行處罰，并責(zé)令其加強(qiáng)內(nèi)容審核和管理。此外，網(wǎng)絡(luò)平臺、媒體機(jī)構(gòu)等應(yīng)加強(qiáng)自律，遵守法律法規(guī)，不傳播未經(jīng)證實的信息。各行業(yè)之間也應(yīng)加強(qiáng)合作，共同打擊利用AI批量造謠的行為。

“造謠一張嘴，辟謠跑斷腿?！碑?dāng)前也亟須通過教育和宣傳，幫助公眾提高對謠言的識別能力，做到理性看待網(wǎng)絡(luò)信息，避免被謠言誤導(dǎo)。尤其是看到聳人聽聞的信息時，不妨多留個心眼，讓子彈再飛一會兒，切莫落入信息陷阱之中，甚至盲目跟風(fēng)轉(zhuǎn)發(fā)評論，有意無意助紂為虐。