名人“被AI帶貨”警示內(nèi)容治理須跟上
近日,張文宏醫(yī)生“被AI帶貨”一事引發(fā)社會(huì)廣泛關(guān)注。有網(wǎng)友反映家中老人在網(wǎng)絡(luò)上看到了一個(gè)視頻,視頻中“張文宏醫(yī)生”正在推薦一款蛋白棒,出于對(duì)張文宏醫(yī)生的信賴,老人不僅自己下單購買,還將相關(guān)視頻轉(zhuǎn)發(fā)到多個(gè)微信群。經(jīng)核實(shí),該視頻為AI(人工智能)合成。對(duì)于“被AI帶貨”,張文宏醫(yī)生無奈地回應(yīng),其本人多次向平臺(tái)投訴,但虛假視頻屢禁不絕,賣貨賬號(hào)也一直在更換。
張文宏醫(yī)生“被AI帶貨”可謂當(dāng)下人工智能技術(shù)被濫用的一個(gè)縮影。近年來,人工智能技術(shù)飛速發(fā)展,基于大模型的生成式人工智能技術(shù)更是突飛猛進(jìn)。人們可以方便地使用人工智能技術(shù)來生成、合成具有較高自然度和真實(shí)感的圖像及音視頻內(nèi)容,特別是能夠模擬真實(shí)人物的聲音,并生成表情和口型都與講述內(nèi)容相符的視頻,達(dá)到以假亂真的效果。這類技術(shù)在電影修復(fù)、數(shù)字人主播、便利聽障人士的手語動(dòng)作生成以及電商平臺(tái)的數(shù)字虛擬“試衣”“試妝”等領(lǐng)域發(fā)揮了積極作用,但其濫用也帶來了一系列問題,其中非常突出的就是通過生成知名人物的虛假視頻進(jìn)行“知識(shí)傳播”或產(chǎn)品銷售,進(jìn)而誤導(dǎo)消費(fèi)者。
我國對(duì)深度合成技術(shù)應(yīng)用治理高度重視。民法典明確規(guī)定,不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán),并特別規(guī)定了對(duì)自然人聲音的保護(hù),為人工智能時(shí)代的權(quán)利保護(hù)奠定了堅(jiān)實(shí)基礎(chǔ)。此外,類似知名人物“被AI帶貨”的事件,還涉及損害被模仿者的名譽(yù)權(quán)等權(quán)利,同時(shí)也損害了消費(fèi)者的知情權(quán)、選擇權(quán)等權(quán)益,并對(duì)合法商家造成不正當(dāng)競爭。從中長期來看,如果不對(duì)濫用人工智能技術(shù)的行為加以規(guī)制,還可能造成社會(huì)信任危機(jī),使人們對(duì)真實(shí)信息也產(chǎn)生懷疑,進(jìn)而影響社會(huì)的效率、秩序和安定。
針對(duì)這一問題,我國已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等部門規(guī)章,從構(gòu)建技術(shù)與法律相結(jié)合的解決機(jī)制的角度,作出了一系列針對(duì)性規(guī)定。首先,明確任何組織和個(gè)人不得使用人工智能技術(shù)生成虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容;深度合成服務(wù)提供者應(yīng)當(dāng)加強(qiáng)對(duì)深度合成內(nèi)容的管理,采取措施進(jìn)行審核。當(dāng)然,在當(dāng)前技術(shù)條件下,法律無法、也不宜要求深度合成服務(wù)提供者消除所有風(fēng)險(xiǎn)。其次,深度合成服務(wù)提供者對(duì)于提供的深度合成服務(wù),應(yīng)當(dāng)按照法律規(guī)定,根據(jù)具體情況進(jìn)行必要的、顯著的標(biāo)識(shí),或進(jìn)行隱式標(biāo)識(shí)以便機(jī)器識(shí)別。同時(shí),任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。這種標(biāo)識(shí)義務(wù)為后續(xù)可信數(shù)據(jù)空間的建立奠定了重要基礎(chǔ)。
今年9月,國家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》,中央網(wǎng)信辦也同步發(fā)布了《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法(征求意見稿)》強(qiáng)制性國家標(biāo)準(zhǔn),擬進(jìn)一步提供細(xì)致規(guī)范。相關(guān)規(guī)范擬規(guī)定用戶上傳人工智能生成內(nèi)容時(shí),應(yīng)當(dāng)主動(dòng)聲明并使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí),這樣可以進(jìn)一步擴(kuò)展具有標(biāo)識(shí)義務(wù)的主體范圍,為人工智能生成內(nèi)容的識(shí)別提供多一重保障。同時(shí)擬規(guī)定“提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施,規(guī)范生成合成內(nèi)容傳播活動(dòng)”,以明確傳播平臺(tái)的核驗(yàn)和提示義務(wù),即信息內(nèi)容傳播平臺(tái)應(yīng)當(dāng)核驗(yàn)相關(guān)內(nèi)容是否已經(jīng)被標(biāo)識(shí)或聲明為人工智能生成內(nèi)容,并應(yīng)當(dāng)根據(jù)生成合成痕跡等信息提醒用戶疑似生成合成內(nèi)容,幫助用戶避免被誤導(dǎo)或欺騙。
盡管我們已經(jīng)初步建立了必要的法律體系,也在進(jìn)一步完善技術(shù)與法律相結(jié)合的標(biāo)識(shí)——核驗(yàn)制度,但違反法律規(guī)定、濫用人工智能技術(shù)進(jìn)行虛假宣傳、虛假帶貨等情況依然存在。要想有效治理此類亂象,一方面,政府部門、平臺(tái)企業(yè)和科研工作者應(yīng)加強(qiáng)協(xié)作,積極探索有效措施,不斷增強(qiáng)在人工智能時(shí)代抵御技術(shù)濫用的能力;另一方面,監(jiān)管機(jī)構(gòu)可與各傳播平臺(tái)合作,通過推動(dòng)傳播科普、防詐騙視頻等方式,進(jìn)一步普及相關(guān)科技知識(shí)和法律知識(shí),提升人民群眾在人工智能時(shí)代的風(fēng)險(xiǎn)防范意識(shí)。(中國人民大學(xué)法學(xué)院副教授、未來法治研究院執(zhí)行院長 張吉豫)
編輯:遲明緒