當(dāng)前，生成式人工智能技術(shù)的應(yīng)用場(chǎng)景不斷增多，相關(guān)技術(shù)在商業(yè)上有較為廣闊的使用前景，但其中潛藏著法律安全風(fēng)險(xiǎn)和侵權(quán)隱憂，如“AI換臉”引發(fā)名譽(yù)侵權(quán)、詐騙犯罪等，近期火熱的“AI復(fù)活”也引發(fā)批評(píng)和爭(zhēng)議。如何有效協(xié)調(diào)技術(shù)與法律、技術(shù)與倫理之間的關(guān)系成為生成式人工智能治理面臨的重要議題。業(yè)內(nèi)指出，面對(duì)新風(fēng)險(xiǎn)，需要漸進(jìn)式地出臺(tái)細(xì)則規(guī)定、倫理規(guī)范，以保障科技安全，避免技術(shù)濫用。

隨著生成式人工智能技術(shù)不斷升級(jí)，“AI復(fù)活”“AI換臉”等應(yīng)用場(chǎng)景帶來的法律問題頻出。

“AI換臉”是深度偽造在視頻領(lǐng)域的一種具體應(yīng)用，主要是將一個(gè)人的面部換到另一個(gè)人身上。相關(guān)技術(shù)被應(yīng)用到商業(yè)活動(dòng)中時(shí)，存在隱私協(xié)議不規(guī)范、存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等問題。商業(yè)平臺(tái)未經(jīng)當(dāng)事人允許擅自使用其人臉信息，面臨侵權(quán)的法律訴訟的案件也層出不窮。同時(shí)，由于“AI換臉”技術(shù)生成的視頻和圖像非常逼真，其也被用于犯罪、電信網(wǎng)絡(luò)詐騙，損害了相關(guān)領(lǐng)域的社會(huì)公共利益。“AI復(fù)活”是將逝者的個(gè)人信息資料輸入AI算法模型，再現(xiàn)其生前形象。但多名法律人士指出，未經(jīng)近親屬同意擅自利用AI技術(shù)“復(fù)活”逝者構(gòu)成侵權(quán)行為，會(huì)侵害逝者的肖像利益，同時(shí)還可能侵害逝者名譽(yù)權(quán)益，侵犯逝者及其家屬的隱私信息，涉及著作權(quán)侵權(quán)等諸多法律問題。

面對(duì)生成式人工智能存在的法律挑戰(zhàn)，2023年8月，中央網(wǎng)信辦出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》，旨在強(qiáng)化對(duì)生成式人工智能行業(yè)的規(guī)范化管理和引導(dǎo)。業(yè)內(nèi)人士分析認(rèn)為，技術(shù)迭代迅速，現(xiàn)有規(guī)則是否能夠全面覆蓋未來可能出現(xiàn)的應(yīng)用場(chǎng)景；如何在鼓勵(lì)科技創(chuàng)新與產(chǎn)業(yè)繁榮的同時(shí)，做到有效約束技術(shù)濫用，防止損害公民權(quán)利和社會(huì)公共利益等問題，都是該辦法在未來實(shí)施過程中可能存在的缺憾。中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒指出，我國(guó)已有的一些人工智能的法規(guī)符合中國(guó)本土特色，但大部分以部門規(guī)章為主，效力位階較低。此外，多數(shù)監(jiān)管部門基于自身監(jiān)管職能出臺(tái)部門規(guī)章，導(dǎo)致缺乏一個(gè)統(tǒng)籌協(xié)調(diào)的機(jī)制和視角。

業(yè)內(nèi)建議，AI技術(shù)風(fēng)險(xiǎn)的預(yù)防需要完善規(guī)則、技術(shù)更新、行業(yè)自律等方式實(shí)現(xiàn)協(xié)同治理，規(guī)范人工智能技術(shù)的應(yīng)用發(fā)展。

一是采用漸進(jìn)式規(guī)則完善方式引導(dǎo)技術(shù)有序發(fā)展。中國(guó)傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系主任鄭寧等人指出，在新技術(shù)應(yīng)用初期，會(huì)存在一定的模糊地帶，法律法規(guī)和監(jiān)督管理也會(huì)有滯后性?？傮w而言，科技發(fā)展的邊界應(yīng)該在維護(hù)社會(huì)法治、保護(hù)個(gè)人權(quán)益和確保倫理底線的前提下進(jìn)行?，F(xiàn)有法律難以規(guī)制的，可通過不斷“打補(bǔ)丁”的方式出臺(tái)新規(guī)則，逐漸完善規(guī)制生成式人工智能技術(shù)的規(guī)范體系，給新興領(lǐng)域技術(shù)發(fā)展留出足夠空間。此外，可通過“軟法”如行業(yè)標(biāo)準(zhǔn)、企業(yè)自律行為等，在實(shí)際操作中發(fā)揮規(guī)范作用，行業(yè)協(xié)會(huì)牽頭制定倫理標(biāo)準(zhǔn)，推動(dòng)企業(yè)和從業(yè)者遵循標(biāo)準(zhǔn)，從而解決技術(shù)運(yùn)用中的倫理與法律問題。

二是在治理中平衡技術(shù)創(chuàng)新和技術(shù)治理的關(guān)系。浙江大學(xué)光華法學(xué)院教授程樂指出，在采取措施加快生成式人工智能創(chuàng)新發(fā)展的同時(shí)，也要認(rèn)識(shí)到其所帶來的內(nèi)外部風(fēng)險(xiǎn)挑戰(zhàn)，相應(yīng)地進(jìn)行治理。一方面，通過簡(jiǎn)化行政許可、減少稅收等政策積極鼓勵(lì)企業(yè)進(jìn)行技術(shù)創(chuàng)新，引導(dǎo)企業(yè)利用自身發(fā)展推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展。另一方面，有關(guān)主管部門堅(jiān)守依法治理底線，對(duì)于企業(yè)可能的違規(guī)違法行為予以及時(shí)規(guī)范和處理。如果現(xiàn)有法律法規(guī)無法有效規(guī)范技術(shù)發(fā)展的新業(yè)態(tài)，可先由主管部門予以警告、通報(bào)批評(píng)，責(zé)令限期改正，之后及時(shí)進(jìn)行立法（需要考慮特殊立法與一般立法、國(guó)家立法與地方立法的辯證關(guān)系），確保有法可依、依法行政。

三是充分發(fā)揮職能部門的監(jiān)管效能。業(yè)內(nèi)人士指出，監(jiān)管部門要?jiǎng)澢寮夹g(shù)應(yīng)用邊界，明確平臺(tái)的責(zé)任規(guī)則，堅(jiān)持誰使用誰負(fù)責(zé)，強(qiáng)化平臺(tái)的監(jiān)管責(zé)任。完善生成式人工智能技術(shù)應(yīng)用的商業(yè)規(guī)則，包括知識(shí)產(chǎn)權(quán)歸屬和財(cái)產(chǎn)權(quán)益歸屬等，強(qiáng)化人工智能服務(wù)的行政審批備案機(jī)制。中國(guó)行政法學(xué)研究會(huì)常務(wù)理事沈?？≌J(rèn)為，監(jiān)管部門還需更加關(guān)注新技術(shù)發(fā)展對(duì)市場(chǎng)端的影響，加大事前監(jiān)管力度，充分運(yùn)用現(xiàn)有的法律法規(guī)資源實(shí)施有效監(jiān)管，盡早發(fā)現(xiàn)隱匿在“監(jiān)管盲區(qū)”的新問題。監(jiān)管部門可適時(shí)引入新興技術(shù)，探索用AI技術(shù)監(jiān)管AI的可能。同時(shí)，對(duì)生成式人工智能服務(wù)的產(chǎn)業(yè)鏈要保持關(guān)注、合理辨析，在現(xiàn)行法律法規(guī)基礎(chǔ)上做好數(shù)據(jù)保護(hù)、涉詐犯罪風(fēng)險(xiǎn)預(yù)防等方面的監(jiān)管。

四是推動(dòng)平臺(tái)承擔(dān)落實(shí)法律責(zé)任。國(guó)際關(guān)系學(xué)院知識(shí)產(chǎn)權(quán)與科技安全研究中心主任郝敏、北京互聯(lián)網(wǎng)法院綜合審判三庭庭長(zhǎng)孫銘溪表示，“AI換聲”“AI換臉”等服務(wù)的規(guī)制需要多主體協(xié)同共治，平臺(tái)承擔(dān)的主體責(zé)任不容忽視。相關(guān)平臺(tái)應(yīng)嚴(yán)格遵守法律規(guī)定，履行AI技術(shù)服務(wù)提供者的義務(wù)。不得利用相關(guān)技術(shù)生成危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益侵犯他人合法權(quán)益等。加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全，落實(shí)對(duì)于人工智能、深度合成等生成內(nèi)容進(jìn)行標(biāo)識(shí)的規(guī)定。有關(guān)平臺(tái)要幫助中老年用戶群體辨別深度偽造技術(shù)，取締不當(dāng)?shù)美倪`法違規(guī)商家，盡可能減少技術(shù)濫用帶來的社會(huì)風(fēng)險(xiǎn)。

參考文章：

1、AI“復(fù)活”逝者或面臨法律風(fēng)險(xiǎn)

http://www.shangrongsuo.com/sylm/content/2024-04/08/content_8982015.html

2、用AI復(fù)活親人音容笑貌還需完善規(guī)則體系，記者調(diào)查AI復(fù)活逝者現(xiàn)象

https://society.huanqiu.com/article/4GunqSTawMv

3、給AI“復(fù)活”多上幾把安全鎖

http://www.xinhuanet.com/comments/20240312/3045d12aa64f4e1db0a4c2375ccfe1ac/c.html

4、AI“復(fù)活”逝者已成生意？相關(guān)技術(shù)推廣需更多監(jiān)管和規(guī)范

https://baijiahao.baidu.com/s?id=1793094893980596935&wfr=spider&for=pc

5、“AI換臉”涉黃敲響新技術(shù)監(jiān)管警鐘

https://baijiahao.baidu.com/s?id=1794655741292841096&wfr=spider&for=pc

6、“AI換臉”以假亂真，哪些風(fēng)險(xiǎn)不容忽視？

https://baijiahao.baidu.com/s?id=1782225022703497335&wfr=spider&for=pc

來源：法治網(wǎng)輿情中心（ID：fzwyqzx）

策劃統(tǒng)籌：付萌 

分析師：趙鴿

新媒體編輯：李靜