編者按：當前，我國互聯網已經進入短視頻時代，短視頻用戶持續(xù)快速增長。9月29日，中國互聯網絡信息中心（CNNIC）發(fā)布第46次《中國互聯網絡發(fā)展狀況統(tǒng)計報告》稱，截至2020年6月，我國短視頻用戶規(guī)模為8.18億，占網民整體的87.0%，相較2020年3月第45次統(tǒng)計，新增了4461萬。在疫情影響之下，互聯網經濟加速發(fā)展，人們逐漸適應“線上”模式，電商、新聞、旅游等行業(yè)搭上短視頻快車，不斷升級轉變，深度地影響著公眾生活，同時也帶來更多表達空間。但是，近期發(fā)生的多起短視頻造假事件，如廣東“民政局門口擺拍離婚”事件、江西六旬女子沉迷“假靳東”視頻離家出走等，造成嚴重的不良社會影響，令公眾不得不審視這一新業(yè)態(tài)的副作用。在商業(yè)化、娛樂化大潮的席卷之下，獵奇、作秀、博眼球成為短視頻傳播的“潛規(guī)則”，導致短視頻造假現象頻發(fā)，持續(xù)污染網絡空間，且“技術”和“套路”不斷翻新升級，令人更加難以辨識，已經成為網絡管理的“灰色地帶”甚至“空白地帶”，亟待納入監(jiān)管范圍。

一、短視頻的三種造假手法

梳理近一兩年來引發(fā)關注的短視頻造假事件，通過分析發(fā)現，從初級的拼湊剪輯到稍具專業(yè)的劇本擺拍，再到AI技術加持的深度偽造，短視頻已經多方侵入到社會生活中，使得短視頻領域的“打假”話題頻繁被提上公眾討論日程。

1. 初級手段：拼湊剪輯，欺騙網民

這類短視頻是在一定事實的基礎上，通過添加元素或者虛構情節(jié)吸引網民好奇心。如貴州威寧幾名網民將鳥叫視頻添加類似“虎叫”“狼嚎”等恐怖音效上傳網絡，引爆了一出“虎嘯龍吟”鬧劇，驚動官方和專家辟謠澄清；某平臺網民編造視頻稱“湖北一私家車數月無人認領，車主抗疫去世”，勾起不少網民對艱難抗疫歷程的回憶，當地警方調查后回應稱網傳消息系謠言；浙江余杭男子攝錄一女士在小區(qū)快遞站點取快遞視頻，與朋友通過分飾“快遞小哥”與“女業(yè)主”身份，捏造“女業(yè)主出軌快遞員被拍”的桃色信息，相關短視頻和聊天內容引起大量轉發(fā)、瀏覽和評論，造成不良社會影響。

近期飽受批評的“假明星”視頻事件，也多是此類簡單拼接的造假手法。據媒體報道，日前一則題為《六旬追星女子：我要嫁靳東，勇敢活一次》的社會新聞引爆輿論場，江西一名六旬大媽自稱在某平臺上結識了明星靳東，甚至想要與現任丈夫離婚，與其一起生活。曝光之后，相關平臺封禁了上千個“東弟弟”“靳哥哥”等假冒賬號。實際上，“假靳東”事件只是冰山一角，某平臺等短視頻平臺存在大量明星名人高仿賬號，這些賬號用明星名人的照片、劇照進行拼貼，再加上文字和配音處理，如“靳東”表白、“馬云”發(fā)錢、“董卿”戀愛等，具有較強的誤導性，令大量中老年用戶上當受騙。

2. 中級手段：劇本擺拍，誤導公眾

擺拍類短視頻一般有劇本、演員、場景、道具，短視頻作者通過較為專業(yè)的拍攝手法和劇情表達，制造意外、反差和反轉以吸引觀眾注意。更重要的是，短視頻作者刻意模糊真實與“創(chuàng)作”間的界限，用旁觀者的視角和實時拍攝的現場感增加短視頻的真實感，不但專業(yè)度顯得較高，而且迷惑性更強。如此前一段廣東茂名“夫妻剛辦完離婚手續(xù)走出民政局，妻子暈倒丈夫冷眼離開”的短視頻在各大平臺傳播，大量網民批評視頻中“丈夫”的做法令人寒心，最多的一位轉發(fā)用戶下有4萬人評論。9月4日，茂名市網信辦公布了另一個角度的監(jiān)控視頻，證明該視頻系擺拍創(chuàng)作。隨后多家媒體調查發(fā)現，多個短視頻內容平臺均存在大量類似“民政局門前演戲式擺拍”的內容，且多與離婚、出軌等爭議性話題有關。

擺拍視頻中，辨識難度較大的是偽裝成監(jiān)控拍攝的短視頻。今年7月，一段湖南芷江“搶小孩”的“監(jiān)控視頻”在秒拍、梨視頻、微博等平臺傳播，引來不明真相的網民和媒體轉發(fā)關注，最高有近25萬點贊，視頻播放量超過百萬。經有關部門調查，該視頻為自媒體公司自導自演，目的是賺取流量，公司運營人已被網安部門約談批評。2019年11月9日，一則“男孩蹲車后撿球險被撞，男子一把拉起拯救兩個家庭”的監(jiān)控視頻走紅于網絡，被網民稱贊“暖新聞”“正能量”，后經媒體核實該視頻系擺拍。上述案例中，相關視頻具備監(jiān)控視頻特有的黑白底色、無聲音、畫質差、鏡頭高、距離遠等特征，如果沒有標注是擺拍，網民很容易相信視頻內容是真實發(fā)生的事情。

3. “高級”手段：改頭換臉，無中生有

虛假視頻信息一直困擾著全世界的網絡平臺和用戶，在AI技術與短視頻制作融合后，它的風險和危害變得更加明顯。利用AI系統(tǒng)，用戶可以任意創(chuàng)建和編輯視頻，這就意味著在短視頻造假上面，它不但能夠以假亂真，更能“無中生有”。2017年，Reddit網站用戶利用Deepfake（深度偽造）技術制作色情視頻并提供開源后，Deepfake技術便在被濫用的路上越走越遠，境外社交媒體上充斥著此類短視頻。有境外機構統(tǒng)計稱，在所有Deepfake創(chuàng)作的視頻中，色情視頻占據了96%，“Deepfake已經成為攻擊女性強有力的武器”。甚至還有變種，如DeepNude軟件可以將照片一鍵生成裸照，不需要任何技術或者硬件支持；Deepfake音頻可以利用算法復制人們的聲音，模仿音色、語調甚至言談舉止習慣，目前境外已經公開報道了三起Deepfake音頻詐騙案例。

而且這一技術已經不可避免地侵入到政治領域，在境外社交媒體發(fā)揮影響力。奧巴馬、特朗普、佩洛西、默克爾、馬斯克等歐美政客名人的“換臉”視頻屢見不鮮，2019年元旦，西非國家加蓬發(fā)布的一段經過深度偽造的總統(tǒng)講話還引發(fā)國家動蕩。隨著技術不斷升級，虛假圖片、音頻、視頻的合成更為容易，視頻造假的內容也在不斷擴展。據外媒報道，今年2月初，在印度德里邦議會選舉中，印度人民黨（Bharatiya Janata Party）的候選人之一Manoj Tiwari，用視頻造假技術拉攏小語種選民。視頻中，并不擅長哈里亞納語的Tiwari，講著流利的哈里亞納語，呼吁大家向印度人民黨投票。該視頻在WhatsApp上引起大量傳播，近5800個WhatsApp群組約1500萬人進行觀看。美國安全專家曾發(fā)出警告，稱DeepFake可能成為對下屆美國總統(tǒng)大選造成影響的最有威脅的人工智能技術之一。

二、短視頻造假的動因

進一步分析上述案例可以看出，短視頻造假歸根結底是為了流量及利益。短視頻制作者追求利益的做法，具體又可以分為兩種情況：一種情況是受到行業(yè)擴張的刺激，通過策劃、演戲“套路”網民，收割流量；另一種則屬于鋌而走險，在網絡黑灰產的鏈條里找尋獵物，誘導和欺騙牟取利益。

1. 行業(yè)推力：短視頻行業(yè)急速擴張推動關聯產業(yè)壯大，“反哺”造假需求

短視頻行業(yè)的快速發(fā)展，催生出相關產業(yè)鏈并推動其走向火熱，為擺拍造假提供便利。大量的短視頻制作需求使得短視頻劇本寫作工作室、公司如雨后春筍般出現，攝影、編劇、制片等專業(yè)人士加入，使得以創(chuàng)意劇情為主要內容的短視頻迅速走紅。短視頻平臺也在發(fā)力：2019年，快手上線新功能板塊“快手小劇場”，宣稱將由專人對短劇創(chuàng)作者進行垂直化和專業(yè)化的運營；2020年2月，抖音推出“百億劇好看計劃”，表示將根據播放量、點贊量等綜合排名給予創(chuàng)作者獎勵。據卡思數據今年3月發(fā)布的一份報告顯示，不論是在短視頻內容量上的占有率，還是在內容漲粉和廣告投放上的效果，劇情號都處在前列位置。平臺的操作和現實的數據都揭示出這樣一個深層次邏輯，即短視頻的算法推薦將內容故事性作為一條重要規(guī)則，主導著短視頻作者的內容能否被看到以及被多少人看到。

推薦算法指引著流量的流向，在“流量思維”主導下，自然會有人不惜造假、造謠，甚至不顧道德和法律的約束。作為新興產業(yè)，低門檻的短視頻創(chuàng)作內容質量參差不齊、從業(yè)人員魚龍混雜，但都不約而同地遵循著要吸引關注必須具備獵奇、刺激、有沖突、有邏輯等“潛規(guī)則”。換句話說，短視頻平臺上所謂的驚喜、憤怒、沖突、矛盾，其實多數都是策劃的結果。MCN機構和網紅們精準地抓住了網民的心理弱點，用充滿痛點的社會話題去撩撥公眾情緒，收割流量和熱度。

2. 流量吸力：短視頻“流量富礦”吸引網絡黑灰產轉移，衍生造假空間

互聯網環(huán)境中，有流量就有利益，短視頻作為當下的互聯網經濟新風口，必然會吸引網絡流量黑灰產的跨平臺轉移，一些黑灰產逐利者聞風而動，利用虛假短視頻謀取不當利益。“假靳東”事件發(fā)酵后，紅星新聞等媒體調查發(fā)現，短視頻賬號交易已經發(fā)展出成熟的黑灰產業(yè)鏈條，不論是“產號”“養(yǎng)號”，還是銷售、運營，都分工有序，明碼標價，背后有著專門的工作室操刀。比如，在短視頻平臺上注冊大量仿冒賬號，用獵奇標題、關注發(fā)紅包等方式騙取粉絲點贊，這個過程叫“養(yǎng)號”。等到積累一定粉絲基礎后就尋求變現，主要通過賣號、加掛廣告掙取傭金、直播帶貨、微信導流推廣等多種方式。據媒體報道，一個15萬左右粉絲的賬號最高可賣到9000多元，買家主要是直播帶貨或微商團隊，像被“假靳東”視頻欺騙的黃女士就購買了該賬號推薦的不少商品。在非法利益的驅使下，還有不法分子將黑手伸向了缺乏辨識力的未成年人和中老年用戶，甚至將其引導至其他平臺進行網絡詐騙。

三、短視頻造假的危害及應對

短視頻造假者從日常生活中截取片段，通過精心編排、剪輯，改成富有爭議、充滿反轉的橋段，不但在網絡上引起爭議和混亂，帶來種種負面后果，更是顛覆了人們“眼見為實”的一貫認知，長此以往將造成社會信任缺失和冷漠蔓延。法制網輿情監(jiān)測中心認為，以下四種情況需要引起警惕并需采取措施積極應對：

1. 警惕正能量擺拍視頻侵蝕官方公信力

當前，短視頻提供了大量的一手信息，日漸吸引媒體關注，并將其作為報道來源之一。通常一條熱門短視頻經過媒體轉載報道后，還會掀起更大范圍的熱議，形成社會熱點事件。多數正能量新聞就是如此發(fā)酵起來，并且感動無數網民。然而，一些虛假短視頻隱藏其中，給媒體公信帶來嚴重損害。如“女孩考上大學跪謝父母”“火鍋店老板娘秒殺醉酒男”等視頻，因“正能量”“暖新聞”受到媒體熱捧后很快“翻車”成“擺拍”，導致那些未經核實查證就發(fā)布報道的權威媒體因此遭到網民責難，陷于追逐流量、缺乏專業(yè)素養(yǎng)的輿論漩渦。此外，各地政法機關也需警惕正面宣傳“翻車”現象。今年5月20日，四川內江市公安市中區(qū)分局官方微博發(fā)布一段視頻，視頻中一名女交警給來送花表白的老公貼上違停罰單，本意是宣傳“公正嚴明執(zhí)法”，但引來擺拍質疑。隨后官博撤下視頻，工作人員回應稱原本策劃的是男主在女交警下班時去交警大隊門口送花，結果在買花的路上碰到，是“意料之外的擺拍”。官方解釋依然未能平息質疑，網民留言批評“矯揉造作”“侮辱智商”。宣傳部門在利用短視頻開展工作時，需要注意區(qū)分真實和創(chuàng)作之間的界限，對于創(chuàng)作的內容要主動作出提醒，以免網民質疑誘發(fā)負面輿情。

......

（全文閱讀請參見《政法輿情》2020年第35期）

法制網輿情監(jiān)測中心 彭曉月