編者按：2022年，多個(gè)人工智能應(yīng)用“出圈”，并大有取代部分人類(lèi)智力工作的趨勢(shì)。人工智能技術(shù)的快速發(fā)展，既令人驚嘆，又帶來(lái)不少焦慮。技術(shù)的快速發(fā)展讓人工智能相關(guān)的法律問(wèn)題以及倫理治理顯得格外緊迫。本刊推出一組報(bào)道供參考。

本刊記者 焦艷

2022年12月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱(chēng)《規(guī)定》），對(duì)AI換臉等深度合成應(yīng)用邊界作出限定，并要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任等，其中提出，深度合成服務(wù)提供者提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。《規(guī)定》自2023年1月10日起施行。

帶來(lái)諸多風(fēng)險(xiǎn)挑戰(zhàn)

近年來(lái)，深度合成在社交、影視、廣告、醫(yī)療、教育、科研等諸多領(lǐng)域不斷深化應(yīng)用，展現(xiàn)出較大的技術(shù)價(jià)值和商用潛力?！兑?guī)定》明確，深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，《規(guī)定》的出臺(tái)，正是為了加強(qiáng)針對(duì)互聯(lián)網(wǎng)信息服務(wù)深度合成的管理，統(tǒng)籌協(xié)調(diào)相關(guān)監(jiān)管工作，確保相關(guān)技術(shù)與應(yīng)用納入規(guī)范化、法治化軌道，維護(hù)國(guó)家安全和社會(huì)公共利益。

伴隨著不斷涌現(xiàn)的場(chǎng)景需求，深度合成內(nèi)容數(shù)量和關(guān)注度日漸激增的同時(shí)，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等，影響傳播秩序和社會(huì)秩序，損害人民群眾合法權(quán)益。“我們所熟知的元宇宙場(chǎng)景構(gòu)建，AI換臉換頭，包括這段時(shí)間大火的Chat GPT，都屬于深度合成技術(shù)?！北本┐蟪陕蓭熓聞?wù)所高級(jí)合伙人肖颯律師認(rèn)為，技術(shù)是一把雙刃劍，對(duì)技術(shù)的正當(dāng)使用可以推動(dòng)社會(huì)的進(jìn)步，但技術(shù)的濫用則會(huì)給公民個(gè)人權(quán)利、社會(huì)公共秩序以及國(guó)家安全帶來(lái)諸多風(fēng)險(xiǎn)挑戰(zhàn)。以信息傳播失真為例，若不法分子利用深度合成技術(shù)發(fā)布虛假新聞、散布謠言，不僅易造成錯(cuò)誤輿論導(dǎo)向，也是對(duì)社會(huì)信任體系的破壞，嚴(yán)重影響社會(huì)公共秩序，引發(fā)社會(huì)信任危機(jī)。

構(gòu)建協(xié)同治理機(jī)制

我國(guó)對(duì)互聯(lián)網(wǎng)信息服務(wù)深度合成作出了科學(xué)全面的制度規(guī)范。中國(guó)信息通信研究院副院長(zhǎng)王志勤撰文表示，一方面，《規(guī)定》有效銜接了相關(guān)法律法規(guī)。在網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法、互聯(lián)網(wǎng)信息服務(wù)管理辦法等上位法框架下，《規(guī)定》有效承接了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)章、規(guī)范性文件中關(guān)于網(wǎng)絡(luò)信息內(nèi)容管理、新技術(shù)新應(yīng)用安全評(píng)估、顯著標(biāo)識(shí)、備案管理等制度規(guī)定，對(duì)深度合成服務(wù)管理機(jī)制、主體責(zé)任等作出了銜接性制度安排。另一方面，《規(guī)定》構(gòu)建了統(tǒng)籌協(xié)調(diào)、多方參與的監(jiān)管體制?！兑?guī)定》明確，國(guó)家網(wǎng)信部門(mén)負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國(guó)深度合成服務(wù)的治理和監(jiān)督管理工作，國(guó)務(wù)院電信主管部門(mén)、公安部門(mén)依據(jù)各自職責(zé)負(fù)責(zé)深度合成服務(wù)的監(jiān)督管理工作。地方網(wǎng)信部門(mén)負(fù)責(zé)統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)深度合成服務(wù)的治理和監(jiān)督管理工作，地方電信主管部門(mén)、公安部門(mén)依據(jù)各自職責(zé)負(fù)責(zé)本行政區(qū)域內(nèi)深度合成服務(wù)的監(jiān)督管理工作。《規(guī)定》還鼓勵(lì)相關(guān)行業(yè)加強(qiáng)行業(yè)自律，搭建齊抓共管、協(xié)同共治的治理機(jī)制。

建立健全辟謠機(jī)制

近幾年，濫用深度合成技術(shù)多次引發(fā)關(guān)注。2019年，AI換臉應(yīng)用ZAO一度走紅，用戶(hù)僅需在該應(yīng)用中上傳一張正臉照，即可將自己的面孔與大量影視片段中的明星面孔進(jìn)行置換。但ZAO僅上線幾天就因隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等問(wèn)題被工信部相關(guān)部門(mén)約談。

肖颯說(shuō)，深度合成技術(shù)和其他互聯(lián)網(wǎng)技術(shù)最大的不同在于其極易混淆性，《規(guī)定》專(zhuān)門(mén)列出兩條來(lái)解決這個(gè)問(wèn)題：一是重點(diǎn)提示，二是要有辟謠機(jī)制。

《規(guī)定》明確，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶(hù)使用的標(biāo)識(shí)，并依法依規(guī)保存日志信息。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認(rèn)；提供非上述深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能，并提示使用者可以進(jìn)行顯著標(biāo)識(shí)。任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

《規(guī)定》明確，深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制，發(fā)現(xiàn)利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當(dāng)及時(shí)采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報(bào)告。肖颯說(shuō)，鑒于深度合成技術(shù)成品具有一定迷惑性，對(duì)公眾可能產(chǎn)生誤導(dǎo)，因此該機(jī)制是一項(xiàng)必要措施。

近年來(lái)，探索深度合成技術(shù)的治理路徑，如何在創(chuàng)新與治理之間平衡、積極尋求正向解決方案和規(guī)范機(jī)制成為業(yè)界關(guān)注熱點(diǎn)。肖颯說(shuō)，由于技術(shù)門(mén)檻的持續(xù)降低，目前已經(jīng)出現(xiàn)越來(lái)越多的不法分子利用深度合成技術(shù)實(shí)施詐騙、敲詐勒索等犯罪行為，針對(duì)中老年等弱勢(shì)群體的尤其多，且呈現(xiàn)出犯罪成功率高、詐騙金額大等特點(diǎn)。基于此，對(duì)深度合成技術(shù)的治理必須盡快提上日程，監(jiān)管機(jī)構(gòu)需要盡快建立和出臺(tái)一套切實(shí)可行的規(guī)范，而行業(yè)自律組織也需要建立起促進(jìn)科技向上向善的行業(yè)準(zhǔn)則，多方合力實(shí)現(xiàn)對(duì)深度合成技術(shù)應(yīng)用風(fēng)險(xiǎn)的多維度治理。