圖①：小紅書平臺(tái)“小紅盾·網(wǎng)暴防護(hù)”界面。

圖②：抖音平臺(tái)反網(wǎng)暴倡議頁面。

互聯(lián)網(wǎng)截圖

近期，一批明星運(yùn)動(dòng)員解散粉絲群，在輿論場中蕩起層層漣漪。究其原委，離不開一個(gè)話題：網(wǎng)絡(luò)暴力。

從“有償代罵”到煽動(dòng)“飯圈”互撕，從“開盒”曝光隱私到AI偽造，網(wǎng)絡(luò)暴力的形態(tài)隨技術(shù)迭代愈發(fā)隱蔽，網(wǎng)暴治理的利劍也加速出鞘。

近年打擊網(wǎng)絡(luò)暴力的舉措中，“壓實(shí)平臺(tái)主體責(zé)任”被反復(fù)探討。2024年8月，我國首部以部門規(guī)章形式公布的反網(wǎng)絡(luò)暴力專門立法《網(wǎng)絡(luò)暴力信息治理規(guī)定》正式實(shí)施，進(jìn)一步明晰了平臺(tái)的權(quán)責(zé)。

面對網(wǎng)暴，平臺(tái)有哪些舉措，又承擔(dān)哪些責(zé)任？記者對此進(jìn)行了探訪。

“按鍵傷人”為何頻發(fā)

明顯的生理不適——心跳加速，胸悶，手腳發(fā)涼、發(fā)麻。這是自媒體創(chuàng)作者林怡（化名）發(fā)現(xiàn)自己被網(wǎng)暴后的第一反應(yīng)。

那個(gè)早上，她像往常一樣醒來，手機(jī)屏幕多出上千條未讀消息，點(diǎn)開全是不堪入目的辱罵。兩天前，她在社交媒體上發(fā)布一條視頻，記錄了自己和男友就醫(yī)的經(jīng)歷。幾句不合時(shí)宜的玩笑，加上名校學(xué)生身份，讓她成了網(wǎng)絡(luò)暴力的“靶子”。

“我就像不受控制一樣，不斷翻看那些罵我的評論，停不下來?！被叵肫鹉莻€(gè)時(shí)刻，她仍然心有余悸。除了線上瘋狂涌入的惡評，騷擾甚至延伸至線下。“最嚴(yán)重的幾天，我父母的信息被人肉，我還接到很多莫名其妙的陌生電話，接通后冷不丁就開始罵人?！?/p>

林怡的遭遇并不是個(gè)例。一項(xiàng)針對全國3591名受訪者進(jìn)行的調(diào)查發(fā)現(xiàn)，超六成受訪者自稱經(jīng)歷過不同程度的網(wǎng)絡(luò)暴力。打開社交媒體檢索“網(wǎng)暴”，也能看到不少網(wǎng)友講述自己的親身經(jīng)歷。

一件小事，隨口一句發(fā)言，都可能引來不同意見者的惡語相向、造謠騷擾、惡意修圖、隱私泄露……有網(wǎng)友直言：“以前覺得公眾人物才會(huì)被網(wǎng)暴，現(xiàn)在發(fā)現(xiàn)，網(wǎng)暴離普通人的生活也并不遠(yuǎn)?！?/p>

林怡告訴記者，作為自媒體博主，自己已不止一次與網(wǎng)暴“交手”，因此會(huì)主動(dòng)調(diào)適心態(tài)，“堅(jiān)定認(rèn)可自己的價(jià)值，不把別人的攻擊往心里去，甚至拿他們罵我的詞開玩笑”。

但她也承認(rèn)：面對網(wǎng)絡(luò)上洶涌而來、海嘯般呈指數(shù)級放大的惡意，不是每個(gè)人都能做好準(zhǔn)備。有人不堪其擾，產(chǎn)生自我懷疑，陷入抑郁、崩潰等負(fù)面情緒；有人甚至采取極端行為，釀成無可挽回的悲劇。

伴隨互聯(lián)網(wǎng)的普及，網(wǎng)絡(luò)暴力為何變得更普遍、更隱蔽、更有破壞性？

在清華大學(xué)法學(xué)院教授勞東燕看來，網(wǎng)絡(luò)暴力的生成，與互聯(lián)網(wǎng)平臺(tái)的技術(shù)密切相關(guān)。隨著互聯(lián)網(wǎng)成為日常生活的一部分，私人問題更容易被公共化；而網(wǎng)絡(luò)的匿名運(yùn)作機(jī)制，讓很多人將現(xiàn)實(shí)中的不滿與怨忿，宣泄到虛擬空間。

平臺(tái)的商業(yè)屬性以及推薦機(jī)制，可能也會(huì)為網(wǎng)絡(luò)暴力“推波助瀾”。

林怡告訴記者：“網(wǎng)暴最猛烈的那幾天，平臺(tái)上出現(xiàn)一個(gè)熱搜，把我的網(wǎng)名和學(xué)校放在了一起，這讓很多人覺得我蹭學(xué)校熱度，罵得更兇了。但其實(shí)我?guī)缀鯊牟辉谫~號里做有關(guān)學(xué)校的內(nèi)容?！倍?dāng)她發(fā)視頻澄清，希望讓網(wǎng)友看到事情全貌，內(nèi)容卻因?yàn)闆]有“爆點(diǎn)”而反響平平。

對此，有專家指出，由于網(wǎng)絡(luò)暴力內(nèi)容多產(chǎn)生于社交媒體，平臺(tái)作為內(nèi)容監(jiān)管方和流量控制方，理應(yīng)承擔(dān)起防止風(fēng)險(xiǎn)擴(kuò)散的責(zé)任。平臺(tái)可以憑借其技術(shù)能力與資源優(yōu)勢，進(jìn)一步壓實(shí)防范網(wǎng)絡(luò)暴力的主體責(zé)任。

建立健全預(yù)警機(jī)制精準(zhǔn)防范

減少網(wǎng)暴發(fā)生，平臺(tái)究竟怎么做？作為抖音“反網(wǎng)暴項(xiàng)目組”的成員，子豪（化名）和同事們已為這個(gè)問題探索了三年。他們找到的答案，就包括建立健全事前預(yù)警機(jī)制，將網(wǎng)暴“扼殺在萌芽狀態(tài)”。

“我的日常工作之一，就是對系統(tǒng)篩選出的信息進(jìn)行人工判斷，評估是否有發(fā)展成網(wǎng)暴的風(fēng)險(xiǎn)，然后進(jìn)行保護(hù)和干預(yù)?！弊雍老蛴浾呓榻B。

據(jù)項(xiàng)目組統(tǒng)計(jì)，2024年，抖音平臺(tái)共攔截涉網(wǎng)暴信息1.7億條，回查清理違規(guī)信息200萬條。累計(jì)向172萬個(gè)“潛在受害者”賬號發(fā)送防暴提醒，向342萬個(gè)“潛在施暴者”賬戶發(fā)出理性發(fā)言提醒。

“平臺(tái)承擔(dān)事前預(yù)防預(yù)警責(zé)任，對網(wǎng)絡(luò)環(huán)境的凈化意義重大?！碧┖吞┞蓭熓聞?wù)所高級合伙人廖懷學(xué)告訴記者，“這不僅能保護(hù)用戶的合法權(quán)益，還能維護(hù)平臺(tái)健康的生態(tài)環(huán)境，防止因網(wǎng)絡(luò)暴力事件頻發(fā)導(dǎo)致用戶流失。”

不只是抖音。記者向幾家頭部平臺(tái)的網(wǎng)暴治理專項(xiàng)負(fù)責(zé)人了解發(fā)現(xiàn)：結(jié)合大數(shù)據(jù)分析與人工審核，事前識(shí)別并干預(yù)暴力言論，已成為平臺(tái)抵制網(wǎng)暴的“標(biāo)配”。

以微博為例，在“機(jī)器+人工”的多維度線索發(fā)現(xiàn)機(jī)制下，平臺(tái)通過用戶投訴、多條評論命中人身攻擊、不友善模型預(yù)警等多重機(jī)制，對海量信息進(jìn)行篩選分析，再輔以人工主動(dòng)巡查、業(yè)務(wù)方線索互通等舉措。對于存疑或爭議內(nèi)容，微博則會(huì)采取降低內(nèi)容曝光率、限制內(nèi)容展示范圍等弱處置手段，避免引起次生輿情。

然而，伴隨互聯(lián)網(wǎng)技術(shù)發(fā)展，新型網(wǎng)暴手段層出不窮，精準(zhǔn)識(shí)別并有效干預(yù)網(wǎng)絡(luò)暴力行為，并非一件易事。

子豪發(fā)現(xiàn)：伴隨網(wǎng)暴形式不斷變化，網(wǎng)暴與非網(wǎng)暴的界限不再清晰。比如陰陽怪氣或玩梗，有人覺得是開玩笑，但有人真真切切地受到了傷害；還有些隱晦的“罵人黑話”，如用相同首字母的字替換原詞，“圈外人”一時(shí)難以分辨，且施暴者的“舉一反三”往往比系統(tǒng)屏蔽更快一步。

“我們只能根據(jù)行業(yè)共識(shí)和團(tuán)隊(duì)不斷摸索的經(jīng)驗(yàn)來判斷?！弊雍栏嬖V記者，“包括看評論數(shù)的量級，看這些謾罵的言論是不是都指向個(gè)人，還有言論的過激程度，受害者有沒有主動(dòng)舉報(bào)，以及考慮用戶是否屬于特殊群體。”

網(wǎng)暴越來越隱蔽，平臺(tái)如何進(jìn)一步精準(zhǔn)防范？

廖懷學(xué)律師指出，升級技術(shù)工具是答案。“判斷抹黑造謠虛假信息時(shí)，平臺(tái)可以利用數(shù)字水印追蹤溯源；在鎖定施暴者時(shí)，可以建立多維度賬號行為模型，綜合登錄時(shí)間、IP地址、發(fā)言頻率等異常分析，對高頻負(fù)面詞匯、異常情緒言論監(jiān)測預(yù)警?！?/p>

提供“全鏈條”關(guān)懷保護(hù)

除了建立健全事前預(yù)警機(jī)制，要強(qiáng)化對網(wǎng)暴的“全鏈條”管控治理，事中干預(yù)處置、事后關(guān)懷保護(hù)，也是平臺(tái)的重要責(zé)任。

“如果有用戶遭遇嚴(yán)重網(wǎng)暴，我們會(huì)代表抖音給用戶進(jìn)行電話外呼?！弊雍老蛴浾呓榻B，“有的用戶需要協(xié)助開啟‘一鍵防網(wǎng)暴’等功能減少傷害，還有用戶只是希望有人傾聽他們的聲音，獲得精神上的安慰?！?/p>

通過電話外呼，子豪曾給一位因鄰里糾紛而遭網(wǎng)暴的老人提供過幫助。對方向他倒了一肚子的苦水，說最近自己睡覺睡不好，去公安局報(bào)警也未能立案。了解到老人不熟悉手機(jī)操作，子豪在電話里手把手教她開啟“陌生人不可以評論”“陌生人不可以私信”“互相關(guān)注的人可見”“批量舉報(bào)”……

包括抖音在內(nèi)，記者發(fā)現(xiàn)，多個(gè)平臺(tái)已上線“防網(wǎng)暴專區(qū)”，為那些感到自己遭受網(wǎng)暴的用戶提供幫助。

以小紅書為例，只要搜索“網(wǎng)暴”相關(guān)內(nèi)容，平臺(tái)自研的防網(wǎng)暴工具“小紅盾”便出現(xiàn)在醒目位置，引導(dǎo)用戶開啟一鍵防護(hù)，進(jìn)行線索上報(bào)，以及撥打平臺(tái)和北京師范大學(xué)合作的24小時(shí)“紅薯地?zé)峋€”，獲取專業(yè)法律、心理咨詢服務(wù)。

各平臺(tái)還推出支持批量取證舉報(bào)、分級處罰違規(guī)賬號、完善實(shí)名認(rèn)證體系以便利侵權(quán)人信息查詢等舉措，為用戶遭遇網(wǎng)暴后的維權(quán)減少阻礙。

平臺(tái)紛紛出手，背后是法規(guī)“劃好了重點(diǎn)”?！毒W(wǎng)絡(luò)暴力信息治理規(guī)定》特別設(shè)立了“保護(hù)機(jī)制”專章，要求平臺(tái)通過告知可采取的防護(hù)措施、提供網(wǎng)暴信息快捷取證功能、及時(shí)防止信息擴(kuò)散等手段，保護(hù)遭受網(wǎng)暴信息侵害用戶的合法權(quán)益，尤其是未成年人、老年人、殘疾人等特殊群體。

中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春留意到這一亮點(diǎn)，她指出：“重視為潛在受害人提供自我保護(hù)和救濟(jì)的工具，這一舉措是我國網(wǎng)絡(luò)暴力信息治理實(shí)踐中非常鮮明的創(chuàng)新實(shí)踐?！?/p>

除此之外，想從根源上終結(jié)網(wǎng)暴，平臺(tái)的用戶教育也不可或缺。

在抖音相關(guān)詞搜索結(jié)果界面，用戶被邀請加入反網(wǎng)暴倡議，承諾“尊重差異、善意假設(shè)、友善表達(dá)”，并向其他用戶展示自己的加入。自2023年7月上線以來，已有超過242萬人加入該倡議。

2024年巴黎奧運(yùn)開幕前，為預(yù)防因賽事、運(yùn)動(dòng)員等引發(fā)的網(wǎng)暴，抖音還通過倡議提醒和動(dòng)畫短片的形式，號召大家理性觀賽；2024年8月，抖音上線全國首個(gè)反網(wǎng)暴微短劇《回旋鏢》，倡導(dǎo)公眾在網(wǎng)絡(luò)社區(qū)表達(dá)積極情感，理性發(fā)聲。

“我們敲下的每句話，都可能是飛向自己的回旋鏢?！倍虅∠?，有網(wǎng)友這樣留言，“善語結(jié)善緣，我們的聲音可以改變世界?！保ㄓ浾?霍旻含）