2月16日凌晨，美國(guó)開放人工智能研究中心OpenAI發(fā)布首個(gè)視頻生成模型“Sora”。只需簡(jiǎn)單文本指令，Sora便能夠創(chuàng)造出長(zhǎng)達(dá)60秒的視頻，并且可以展示多視角的鏡頭切換和豐富的細(xì)節(jié)。目前，OpenAI已在官網(wǎng)發(fā)布了48個(gè)由Sora直接生成且未經(jīng)修改的視頻，逼真的場(chǎng)景、流暢的運(yùn)鏡、生動(dòng)的人物表情，使人難以分辨這些視頻是實(shí)際拍攝產(chǎn)生的還是由AI技術(shù)生成的。

Sora的問世引發(fā)全球震動(dòng)，從之前的ChatGPT到現(xiàn)在的Sora，生成式AI向人們展現(xiàn)了巨大的潛力和創(chuàng)新，在信息檢索、聊天對(duì)話、內(nèi)容生成等方面顯示出獨(dú)特的功能，為內(nèi)容創(chuàng)作領(lǐng)域帶來了前所未有的變革，展現(xiàn)出信息傳播領(lǐng)域中的廣闊前景。不過隨之而來的，該技術(shù)對(duì)輿論生態(tài)造成一系列挑戰(zhàn)和隱患，也需要引起警惕和重視。

1. 隱形輸出價(jià)值觀增加意識(shí)形態(tài)沖突風(fēng)險(xiǎn)

生成式AI是基于海量數(shù)據(jù)和文本基礎(chǔ)進(jìn)行訓(xùn)練而來，這些公共語料庫本身質(zhì)量良莠不一，其數(shù)據(jù)來源本身可能存在偏見與不公，將直接影響到使用者對(duì)客觀現(xiàn)實(shí)的認(rèn)知。而且數(shù)據(jù)訓(xùn)練規(guī)則和訓(xùn)練內(nèi)容、形式都是由算法開發(fā)者或數(shù)據(jù)寫入者制定，不可避免攜帶上其原有的價(jià)值觀念。比如算法歧視，其表現(xiàn)基于種族、性別、民族等特征的歧視更加隱蔽，OpenAI官網(wǎng)中發(fā)布的數(shù)個(gè)涉人物視頻案例中，基本是清一色的白種人虛擬人物主角。可見，類Sora生成式內(nèi)容可能攜帶特定的文化傾向和價(jià)值觀，這些隱形的價(jià)值導(dǎo)向輸出或進(jìn)一步加深不同群體之間的矛盾。尤其是作為意識(shí)形態(tài)的媒介渠道，一旦錯(cuò)誤的政治觀念、價(jià)值偏好等有害導(dǎo)向被嵌入其中，就可被作為政治宣傳和輿論操縱的工具，消解主流媒體宣傳效果，增加意識(shí)形態(tài)風(fēng)險(xiǎn)。

2. 縮短傳播鏈條加深輿論復(fù)雜程度

在新聞生產(chǎn)階段，類Sora生成式AI可以利用技術(shù)優(yōu)勢(shì)對(duì)信息進(jìn)行抓取和綜合，按照技術(shù)化標(biāo)準(zhǔn)批量生產(chǎn)新聞報(bào)道，既可以根據(jù)比較簡(jiǎn)單的腳本，圍繞新聞關(guān)鍵詞生產(chǎn)新聞內(nèi)容，歸納總結(jié)同類報(bào)道，也可以根據(jù)新聞單位的不同風(fēng)格定向改變新聞，圍繞既定主題持續(xù)不斷進(jìn)行信息內(nèi)容產(chǎn)出，還能夠根據(jù)語境對(duì)傳統(tǒng)信息快速進(jìn)行翻譯、轉(zhuǎn)寫等，像Sora此類應(yīng)用還能貼合目前直播、視頻等輿論的視聽偏好，即時(shí)根據(jù)報(bào)道關(guān)鍵信息生成短視頻和動(dòng)畫，大幅提高新聞報(bào)道的生產(chǎn)效率，縮短其生產(chǎn)時(shí)間。在信息傳播階段，用戶和生成式AI進(jìn)行直接互動(dòng)，通過問答、搜索等更簡(jiǎn)潔方式了解輿情事件的大致脈絡(luò)，從而令網(wǎng)民有可能在更短時(shí)間內(nèi)獲悉事件最新態(tài)勢(shì)，并第一時(shí)間獲知輿情的進(jìn)展情況，緊跟最新輿論焦點(diǎn)問題進(jìn)行討論，大大減弱了信息傳播對(duì)平臺(tái)的依賴程度，但同時(shí)也將大幅縮短輿情發(fā)酵鏈條的時(shí)間長(zhǎng)度，令同一輿情事件中信息內(nèi)容更加紛繁復(fù)雜。

3. 加大意見混同增加輿論極性“偏差”

生成式AI實(shí)際加深了用戶對(duì)于輿情事件的參與程度，使其能夠隨時(shí)參與到對(duì)網(wǎng)絡(luò)事件的意見建構(gòu)之中，這些意見被生成式AI學(xué)習(xí)后形成新的“輿情事實(shí)”，進(jìn)而繼續(xù)擴(kuò)大傳播，導(dǎo)致客觀性的事實(shí)被夾雜、糅合在主觀性的網(wǎng)絡(luò)表達(dá)中，輿論信息的主客觀程度更加難以分辨，這可能產(chǎn)生一種“夾敘夾議”式的輿論敘事場(chǎng)景，對(duì)于某些分辨能力不強(qiáng)的網(wǎng)民來講，在這種輿論場(chǎng)中更容易被暗含的輿論觀點(diǎn)所左右。由于技術(shù)賦值的問題，某些帶有鮮明觀點(diǎn)和極端偏好的信息，更容易被生成式AI抓取識(shí)別和傳播，同時(shí)，類Sora技術(shù)智能增強(qiáng)式工具還能夠利用算法和與用戶的“交流”實(shí)現(xiàn)精準(zhǔn)化傳播。換言之，極端性表達(dá)更容易通過生成式AI關(guān)注并得以放大，更容易令情感濃度大的信息獲得共振，導(dǎo)致整個(gè)輿論場(chǎng)的意見偏差增大，造成不同意見群體的觀點(diǎn)割裂，輿論極性增加。

4. 降低造謠成本虛假信息數(shù)量或?qū)⑸仙?/span>

類Sora生成式人工智能的內(nèi)容生成，已經(jīng)涵蓋AI成像、AI仿聲、圖像生成等各種元素，網(wǎng)絡(luò)虛假信息生成路徑更加真假難辨。此類人工智能技術(shù)應(yīng)用一旦大面積推廣，其高度自主化特性使得制造虛假新聞、網(wǎng)絡(luò)謠言等惡意信息的門檻變得更低，普通人只需要使用簡(jiǎn)單的文字描述就可以生產(chǎn)一段逼真短視頻，進(jìn)而產(chǎn)生大量的虛假“泡沫”輿情事件，甚至成為滋生電信詐騙等違法犯罪行為的“溫床”。今年2月，香港警方發(fā)布一起數(shù)額巨大的AI詐騙案，涉案金額達(dá)2億港元，詐騙分子偽造數(shù)個(gè)高管的面容聲音進(jìn)行視頻會(huì)議，除了受害者一人為真人外，其余與會(huì)者全部由AI生成。此外，類Sora生成式人工智能也給機(jī)器人水軍創(chuàng)造了極大空間。未來具備高度自動(dòng)化和仿生形態(tài)的機(jī)器人水軍，可以更加高效低成本地生產(chǎn)大量逼真視頻內(nèi)容，或成為干擾網(wǎng)絡(luò)正常秩序的一大因素。而大量虛假信息被AI輸出并大肆傳播，在虛假信息被識(shí)別之前又被傳播出去，造成不實(shí)信息泛濫的惡劣影響。

結(jié)語

面對(duì)類Sora生成式人工智能給人類社會(huì)帶來的巨大挑戰(zhàn)和機(jī)遇，在充分發(fā)揮生成式人工智能的技術(shù)優(yōu)勢(shì)的前提下，政府部門應(yīng)對(duì)有效規(guī)避各類智能技術(shù)及風(fēng)險(xiǎn)有所警惕和作為，尤其是其可能帶來的輿論生態(tài)改變，可能引發(fā)網(wǎng)絡(luò)意識(shí)形態(tài)安全風(fēng)險(xiǎn)，相關(guān)治理的要求也應(yīng)該更加超前和成熟。

首先，要形成多元共建多方共管的治理格局。一是建立與完善相應(yīng)法律法規(guī)。類Sora生成式人工智能在呈現(xiàn)出更多智慧功能的同時(shí)，也不可避免地面臨諸如隱私權(quán)保護(hù)、電信詐騙等違法行為的責(zé)任界定，由此帶來法律層面的爭(zhēng)議需要立法予以規(guī)制，立法部門應(yīng)在兼顧科技發(fā)展和規(guī)范使用的界限的同時(shí)，及時(shí)出臺(tái)行業(yè)性規(guī)范。二是監(jiān)管機(jī)構(gòu)應(yīng)強(qiáng)化對(duì)類Sora生成式人工智能領(lǐng)域的監(jiān)管，進(jìn)一步規(guī)范人工智能內(nèi)容生成技術(shù)的使用，尤其注意防止生成式人工智能成為虛假信息的發(fā)源地，要強(qiáng)化對(duì)提供人工智能技術(shù)的企業(yè)、傳播平臺(tái)等監(jiān)管，形成嚴(yán)格的行業(yè)警告和處罰機(jī)制。三是強(qiáng)化技術(shù)平臺(tái)的主體責(zé)任，要求相關(guān)AI企業(yè)加強(qiáng)內(nèi)容審核力度，在生成式內(nèi)容上必須打上明顯的標(biāo)識(shí)，要求其在杜絕虛假信息的產(chǎn)出、流傳與擴(kuò)散方面負(fù)有更明確、比重更大的責(zé)任。其次，還需加強(qiáng)對(duì)社會(huì)的人工智能素養(yǎng)教育，及時(shí)公布相關(guān)的最新技術(shù)案例，讓公眾對(duì)類Sora生成式人工智能的運(yùn)作機(jī)制等有基本認(rèn)知，增強(qiáng)對(duì)虛假信息的風(fēng)險(xiǎn)識(shí)別與抵制能力。

閱讀全文可訂閱

《政法輿情》電子產(chǎn)品

詳情咨詢：010-84772595

來源：法治網(wǎng)輿情中心

作者：王燦

編輯：王媛

新媒體編輯：李靜