輿情事件 

近日，四川、甘肅等多地公安廳公布了多起網(wǎng)民利用AI技術(shù)制造謠言的案例，公安部公布10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例，有4起涉及違法人員使用AI造謠，引發(fā)輿論持續(xù)關(guān)注。近兩年來(lái)，生成式AI技術(shù)的廣泛應(yīng)用，令利用人工智能編造的網(wǎng)絡(luò)謠言的數(shù)量呈上升態(tài)勢(shì)。輿論普遍認(rèn)為，利用AI編造、傳播網(wǎng)絡(luò)謠言已形成一種新型違法犯罪行為，對(duì)政法機(jī)關(guān)的社會(huì)治理工作提出挑戰(zhàn)。法治網(wǎng)輿情中心從公開(kāi)的典型案件中選取10起為研究對(duì)象，分析AI謠言的輿情特征，總結(jié)輿情處置經(jīng)驗(yàn)，為政法機(jī)關(guān)提供參考。

部分涉AI謠言案例基本信息表   

10起典型案例中，有6起是涉及公共安全的謠言，包含“地震”“火災(zāi)”“爆炸”等關(guān)鍵詞；2起謠言涉及教育領(lǐng)域，分別為“賀州市第五高級(jí)中學(xué)小賣(mài)部經(jīng)營(yíng)權(quán)調(diào)查情況的通報(bào)”和“德陽(yáng)12歲女生被8人輪流扇耳光3小時(shí)，致耳膜穿孔”；1起謠言涉及民生領(lǐng)域，為“廣州將成全國(guó)首個(gè)限制外賣(mài)配送的城市”；1起涉及政治謠言，為“一旦要打仗，啟動(dòng)一級(jí)戰(zhàn)備，專(zhuān)家建議老百姓沖在最前線(xiàn)，報(bào)效祖國(guó)”。在行為動(dòng)機(jī)上，有7起案件明確提到了造謠者是為了獲取更多流量、賺取收益，有1起案件系行為人為了蹭熱度漲粉，還有1起系行為人為了發(fā)帖賺稿費(fèi)。曝光形式方面，10起案件中有9起是采用圖片加文字的形式，有1起是以視頻形式傳播，即網(wǎng)民駱某某將其他地區(qū)的抗洪、救災(zāi)視頻嫁接到新疆烏什地震上，造成較大負(fù)面影響。從處置結(jié)果看，9起案件的行為人被涉事警方給予行政處罰，網(wǎng)民楊某招攬多人捏造“廣州即將成為全國(guó)首個(gè)限制外賣(mài)配送的城市”謠言，當(dāng)?shù)毓膊块T(mén)對(duì)涉案6名嫌疑人采取刑事強(qiáng)制措施。

輿情特征  

觀察以上案例，可以發(fā)現(xiàn)涉AI謠言案件具有以下幾方面突出特征:

1. 信息混雜 辨真?zhèn)坞y度增加

網(wǎng)絡(luò)謠言的最終目的，就是令大眾相信造謠者生產(chǎn)的虛假信息，以達(dá)到其不可告人的企圖。AI謠言雖然是造謠者利用軟件系統(tǒng)等程序生成，但在形式外觀上新聞要素齊全、內(nèi)容完整，極具逼真性和迷惑性。而隨著ChatGPT、文生視頻模型“Sora”等人工智能技術(shù)的推出，造謠者只需“動(dòng)動(dòng)手指”，就可以將現(xiàn)有算法和互聯(lián)網(wǎng)中的海量信息“排列組合”，令網(wǎng)民掉入以假亂真、虛實(shí)混雜的“信息陷阱”。比如，無(wú)中生有地通過(guò)軟件直接生成逼近真實(shí)的圖片、音視頻；將網(wǎng)絡(luò)中真實(shí)存在的圖片、視頻等進(jìn)行嫁接以增加真實(shí)感；故意“添油加醋”篡改真實(shí)信息，制造聳人聽(tīng)聞的消息，煽動(dòng)民眾恐慌等。而經(jīng)過(guò)AI包裝過(guò)的網(wǎng)絡(luò)謠言，徹底顛覆了大眾“有圖有真相”“有視頻有真相”的常規(guī)認(rèn)知，讓謠言變得更具有偽裝性和欺騙性，極大混淆了公眾視聽(tīng)。

2. 精準(zhǔn)分析 制造輿情“爆點(diǎn)”

公安部網(wǎng)安局在發(fā)布涉網(wǎng)絡(luò)謠言典型案例時(shí)曾指出：“AI通過(guò)海量數(shù)據(jù)的學(xué)習(xí)和用戶(hù)行為、興趣的分析，從而發(fā)現(xiàn)隱藏在其中的模式和規(guī)律，進(jìn)而提供準(zhǔn)確的決策支持和更好的用戶(hù)體驗(yàn)，恰恰是它的拿手好戲?！笨梢?jiàn)，AI強(qiáng)大的技術(shù)優(yōu)勢(shì)使得其被造謠者充分利用，通過(guò)大數(shù)據(jù)找到公眾最為關(guān)注的內(nèi)容，通過(guò)提取相關(guān)的關(guān)鍵詞生成謠言，并制造出一個(gè)個(gè)輿情“爆點(diǎn)”。進(jìn)一步觀察發(fā)現(xiàn)，關(guān)涉民眾個(gè)人和公共安全的信息往往最受AI謠言的“青睞”，比如突發(fā)案事件中重點(diǎn)突出“交通事故”“陰謀”“故意殺人”“死亡”等細(xì)節(jié)，突發(fā)公共安全類(lèi)事件中多強(qiáng)調(diào)“地震”“爆炸”“火災(zāi)”“洪災(zāi)”等情節(jié)。在標(biāo)題設(shè)置上，此類(lèi)AI謠言也很有煽動(dòng)性，比如“一場(chǎng)驚心動(dòng)魄的‘鈔票大戰(zhàn)’ 巴中市警民對(duì)峙引發(fā)轟動(dòng) 誰(shuí)將成為勝利者”“一場(chǎng)強(qiáng)烈地震在甘肅省白銀市景泰縣席卷而過(guò)，給當(dāng)?shù)厝嗣駧?lái)了沉重災(zāi)難”等，通過(guò)夸張的語(yǔ)氣、數(shù)據(jù)表述實(shí)現(xiàn)對(duì)受眾心理的精準(zhǔn)拿捏，令其內(nèi)心作出傾向性選擇。

3. 技術(shù)加持 謠言生成效率提升

相比此前造謠者單純靠人工捏造、散布謠言這一略顯“原始”的方式，利用AI造謠明顯提升了謠言的“技術(shù)含量”，使得謠言的生成速度、數(shù)量以及傳播量都出現(xiàn)質(zhì)的飛躍。這是因?yàn)?，一方面人工智能的高效性、自?dòng)化等特點(diǎn)，可以在極短時(shí)間內(nèi)實(shí)現(xiàn)謠言的“批量化生產(chǎn)”。比如，人民網(wǎng)報(bào)道稱(chēng)，在“廣州限制外賣(mài)配送”謠言案中，涉案人員使用人工智能工具批量生成不實(shí)文章，發(fā)布“外賣(mài)配送將被禁止，餐館只能提供堂食和到店取餐服務(wù)”等虛假消息，擾亂當(dāng)?shù)厣鐣?huì)正常秩序。又如《檢察日?qǐng)?bào)》報(bào)道，2023年12月，西安警方在破獲的一則“西安市鄠邑區(qū)管道破裂”謠言中發(fā)現(xiàn)，該案涉及一款名為“翠綠筆墨”的寫(xiě)稿軟件，一天能生成19萬(wàn)篇文章，7天能達(dá)到上百萬(wàn)篇，謠言的輸出密度和量級(jí)令人驚愕。另一方面，一些不法分子看到AI造謠背后的“商機(jī)”，將造謠傳謠看成生意，由此衍生出一條條黑灰產(chǎn)業(yè)鏈，這意味著網(wǎng)絡(luò)謠言產(chǎn)生后，往往會(huì)被大量轉(zhuǎn)發(fā)炒作，造謠的門(mén)檻和成本極大降低，但傳播的效率和產(chǎn)生的影響卻成倍增加，大大提升了網(wǎng)絡(luò)謠言的破壞力。

4. 打“信息差” 帶偏網(wǎng)民認(rèn)知

AI技術(shù)的出現(xiàn)為造謠者提供了豐富多樣的“語(yǔ)料池”，令其在時(shí)間、地域等方面選擇維度拓寬，而網(wǎng)民作為信息不對(duì)稱(chēng)的另一方，對(duì)造謠者提出的信息必然無(wú)法全部掌握，這就為造謠者利用“信息差”炮制謠言提供可乘之機(jī)，最典型的體現(xiàn)就是AI“異地造謠”現(xiàn)象。在上述10起案例中，有5起案件涉及異地造謠，比如某網(wǎng)民將發(fā)生在江西某地的校園霸凌事件編造為四川某學(xué)校、山東網(wǎng)民發(fā)布“廣西賀州某中學(xué)小賣(mài)部經(jīng)營(yíng)權(quán)調(diào)查情況通報(bào)”的謠言等。造謠者將外地發(fā)生的事件安在本地，或?qū)⑼獾匕l(fā)生的A事件安在B地，未知全貌的網(wǎng)民被謠言信息帶偏認(rèn)知后對(duì)該信息轉(zhuǎn)發(fā)擴(kuò)散，而一些自媒體博主未經(jīng)核實(shí)信息真實(shí)性，出于吸引流量、博取眼球等各種目的，對(duì)謠言進(jìn)行加工解讀和轉(zhuǎn)發(fā)傳播，也為放大謠言的危害起到推波助瀾的作用。

輿情啟示 

如上文所述，利用AI技術(shù)造謠可謂“門(mén)檻低、傳播廣、破壞大”，而流量帶來(lái)的可觀收益促使造謠者不斷鋌而走險(xiǎn)，嚴(yán)重誤導(dǎo)公眾認(rèn)知，影響網(wǎng)絡(luò)空間秩序和社會(huì)穩(wěn)定。從公布的案例情況看，各地公安部門(mén)對(duì)涉AI謠言案件整體能做到快速介入處置，有效安撫人心，保證社會(huì)秩序平穩(wěn)。法治網(wǎng)輿情中心從中總結(jié)出三點(diǎn)處置經(jīng)驗(yàn)，供政法機(jī)關(guān)參考。

一是積極處置個(gè)案。經(jīng)分析，那些對(duì)涉AI謠言案件的處置整體較成功的案件，涉事公安部門(mén)總體處置都秉持了“發(fā)現(xiàn)早、研判準(zhǔn)、處置快”的原則。具體來(lái)講就是，輿情意識(shí)在線(xiàn)，尤其對(duì)那些破壞性較強(qiáng)的、消解官方公信力的、容易激發(fā)公眾集體恐慌等方面的信息保持敏感，一經(jīng)甄別判定為謠言的，政法機(jī)關(guān)往往多管齊下，在謠言攔截、信息清理、信息發(fā)布等方面展現(xiàn)出更多主動(dòng)作為。另外，對(duì)于涉及多個(gè)部門(mén)和地域的AI網(wǎng)絡(luò)謠言，政法機(jī)關(guān)也加強(qiáng)了聯(lián)動(dòng)配合，有力阻斷了謠言傳播鏈條，力爭(zhēng)讓官方處置速度跑贏謠言傳播速度。

二是做好普法宣傳。目前，甘肅、四川、廣西等多地公安都積極通過(guò)官微等多種方式展開(kāi)典型案例宣傳，向大眾講明AI造謠的生產(chǎn)機(jī)制、話(huà)術(shù)套路、識(shí)別方式等內(nèi)容，引導(dǎo)網(wǎng)民增強(qiáng)對(duì)網(wǎng)絡(luò)謠言信息鑒別能力，呼吁廣大群眾對(duì)未經(jīng)權(quán)威部門(mén)證實(shí)、背景缺失、地域不清、指向不明的信息內(nèi)容，不先入為主作評(píng)判，不主動(dòng)傳播。今年4月21日，安徽合肥警方還通過(guò)央視新聞，在關(guān)于“AI軟件成造謠工具”節(jié)目中揭秘謠言制作過(guò)程，讓網(wǎng)民更直觀地加深了對(duì)AI造謠的認(rèn)知，起到較好宣傳效果。

三是加大懲處力度。針對(duì)AI造謠行為帶來(lái)的負(fù)面影響，輿論一致呼吁嚴(yán)加懲處。對(duì)此，政法機(jī)關(guān)積極回應(yīng)輿論期盼，從主觀惡性、謠言性質(zhì)、社會(huì)影響等方面綜合考慮，積極打擊AI造謠違法犯罪行為。以上述案例為例，絕大多數(shù)的始作俑者被給予行政處罰，包括批評(píng)教育、罰款、行政拘留等，輿情處置流程比較完整，閉環(huán)率較高。特別是在“廣州即將成為全國(guó)首個(gè)限制外賣(mài)配送的城市”謠言一案中，廣州警方對(duì)楊某、葉某英等6名人員采取刑事強(qiáng)制措施，通過(guò)辦理典型案例的方式形成震懾，讓造謠傳謠者心存畏懼，遏制其違法犯罪沖動(dòng)，被業(yè)內(nèi)專(zhuān)家評(píng)價(jià)為“是打擊治理AI造謠違法犯罪行為的樣板案例，將對(duì)不法分子起到有力震懾作用”。

閱讀全文可訂閱

《政法輿情》電子產(chǎn)品

詳情咨詢(xún)：010-84772595

    來(lái)源：法治網(wǎng)輿情中心

分析師：王媛

編輯：王媛

新媒體編輯：李靜