三部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》

提供深度合成服務(wù)應(yīng)進(jìn)行顯著標(biāo)識(shí)

□　本報(bào)記者 劉欣

近年來，深度合成技術(shù)快速發(fā)展，在服務(wù)用戶需求、改進(jìn)用戶體驗(yàn)的同時(shí)，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等，影響傳播秩序和社會(huì)秩序，損害人民群眾合法權(quán)益，危害國(guó)家安全和社會(huì)穩(wěn)定。

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），明確了深度合成服務(wù)的一般規(guī)定、深度合成數(shù)據(jù)和技術(shù)管理規(guī)范、監(jiān)督檢查與法律責(zé)任、相關(guān)用語的含義等。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，出臺(tái)《規(guī)定》，旨在加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理，弘揚(yáng)社會(huì)主義核心價(jià)值觀，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。

避免濫用深度合成技術(shù)

AI換臉、語音合成、虛擬主播……隨著各類商業(yè)化產(chǎn)品普及，深度合成的信息內(nèi)容在網(wǎng)絡(luò)上大量涌現(xiàn)，越來越多的社會(huì)公眾接觸到了深度合成技術(shù)。

據(jù)悉，深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息技術(shù)。近年來，深度合成技術(shù)應(yīng)用廣泛、形式多樣，在影視、傳媒、教育等領(lǐng)域有大量應(yīng)用形式，可實(shí)現(xiàn)特效制作、元宇宙場(chǎng)景、虛擬仿真教學(xué)等功能。

但當(dāng)前，網(wǎng)絡(luò)傳播環(huán)境日趨復(fù)雜，新型合成方法層出不窮，技術(shù)濫用的風(fēng)險(xiǎn)也在不斷加劇。記者了解到，此前有不法分子通過非法獲取的他人照片或有償收購的他人聲音等“物料”，利用人工智能技術(shù)將照片合成動(dòng)態(tài)視頻，仿冒他人身份進(jìn)行電信網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博等；更有不法分子利用AI技術(shù)移花接木制作不雅視頻，將視頻中的人臉換成明星后在網(wǎng)絡(luò)上出售。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，出臺(tái)《規(guī)定》，是防范化解安全風(fēng)險(xiǎn)的需要，也是促進(jìn)深度合成服務(wù)健康發(fā)展、提升監(jiān)管能力水平的需要。

《規(guī)定》明確了制定目的依據(jù)、適用范圍、部門職責(zé)和導(dǎo)向要求。明確在中華人民共和國(guó)境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)，適用本規(guī)定。明確國(guó)家和地方網(wǎng)信部門統(tǒng)籌協(xié)調(diào)深度合成服務(wù)的治理和相關(guān)監(jiān)督管理職責(zé)，國(guó)務(wù)院電信主管部門、公安部門以及地方相關(guān)部門的監(jiān)督管理職責(zé)。明確提供深度合成服務(wù)的總體要求。鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律。

建議研制相關(guān)標(biāo)準(zhǔn)規(guī)范

常言道，耳聽為虛，眼見為實(shí)。但隨著科技的發(fā)展，“以假亂真”的畫面、聲音、視頻等并不少見，給人帶來困擾。此次《規(guī)定》明確了深度合成服務(wù)提供者的標(biāo)識(shí)要求，引發(fā)熱議。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人介紹，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，并依法依規(guī)保存日志信息。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認(rèn)；提供非上述深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能，并提示使用者可以進(jìn)行顯著標(biāo)識(shí)。任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

中國(guó)科學(xué)院信息工程研究所所長(zhǎng)孟丹認(rèn)為，《規(guī)定》充分結(jié)合深度合成技術(shù)特點(diǎn)與發(fā)展趨勢(shì)，提出了針對(duì)深度合成服務(wù)和技術(shù)的普適性的規(guī)范思路，但在生成合成類算法服務(wù)范圍、深度合成技術(shù)具體范圍、深度合成服務(wù)業(yè)務(wù)分類、顯式標(biāo)識(shí)條件與標(biāo)識(shí)方式、隱式標(biāo)識(shí)方法與識(shí)別等諸多具體方面，亟須行業(yè)內(nèi)部進(jìn)一步細(xì)化相關(guān)配套標(biāo)準(zhǔn)規(guī)范。

“在實(shí)際落地過程中，建議行業(yè)內(nèi)推進(jìn)產(chǎn)業(yè)聯(lián)盟建立，研制相關(guān)標(biāo)準(zhǔn)規(guī)范，以產(chǎn)業(yè)自治、多方共治的方式，不斷推進(jìn)深度合成技術(shù)應(yīng)用高質(zhì)量發(fā)展?！泵系そㄗh。

《規(guī)定》還明確了深度合成服務(wù)提供者和技術(shù)支持者的數(shù)據(jù)和技術(shù)管理規(guī)范。國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人介紹，一是加強(qiáng)訓(xùn)練數(shù)據(jù)管理。采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定；提供人臉、人聲等生物識(shí)別信息顯著編輯功能的，應(yīng)當(dāng)提示使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

二是加強(qiáng)技術(shù)管理。定期審核、評(píng)估、驗(yàn)證生成合成類算法機(jī)制機(jī)理；提供具有對(duì)人臉、人聲等生物識(shí)別信息或者可能涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識(shí)別信息編輯功能的模型、模板等工具的，應(yīng)當(dāng)依法自行或者委托專業(yè)機(jī)構(gòu)開展安全評(píng)估。

聚焦違法不良信息治理

值得注意的是，《規(guī)定》還聚焦違法和不良信息治理，引導(dǎo)深度合成服務(wù)向上向善。

“針對(duì)利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播違法信息等行為，《規(guī)定》劃定‘紅線’，規(guī)定不得利用深度合成服務(wù)開展法律法規(guī)禁止的活動(dòng)，要求深度合成服務(wù)提供者制定和公開管理規(guī)則、平臺(tái)公約，完善服務(wù)協(xié)議，依法依約履行信息安全管理責(zé)任。發(fā)現(xiàn)違法和不良信息的，依法采取處置措施，保存有關(guān)記錄，及時(shí)向有關(guān)主管部門報(bào)告?！敝袊?guó)科學(xué)院自動(dòng)化研究所所長(zhǎng)徐波說。

《規(guī)定》還明確了監(jiān)督檢查與法律責(zé)任：具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者、技術(shù)支持者應(yīng)當(dāng)履行備案和變更、注銷備案手續(xù)。上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當(dāng)開展安全評(píng)估。深度合成服務(wù)提供者、技術(shù)支持者應(yīng)當(dāng)依法配合網(wǎng)信部門和有關(guān)主管部門開展的監(jiān)督檢查，并提供必要的支持和協(xié)助。發(fā)現(xiàn)存在較大信息安全風(fēng)險(xiǎn)的，網(wǎng)信部門和有關(guān)主管部門可以按照職責(zé)依法要求其采取暫停信息更新、用戶賬號(hào)注冊(cè)或者其他服務(wù)等措施。明確違反規(guī)定的法律責(zé)任。

徐波認(rèn)為，《規(guī)定》統(tǒng)籌各方力量，構(gòu)建政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會(huì)監(jiān)督的多元共治體系，將網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和深度合成服務(wù)管理有機(jī)結(jié)合，通過貫穿深度合成服務(wù)事前事中事后的監(jiān)管模式，針對(duì)不同的深度合成活動(dòng)給出規(guī)范要求，進(jìn)一步明確深度合成服務(wù)提供者、技術(shù)支持者和使用者以及應(yīng)用程序分發(fā)平臺(tái)責(zé)任，鼓勵(lì)推動(dòng)行業(yè)自律和出臺(tái)標(biāo)準(zhǔn)規(guī)范，要求社會(huì)監(jiān)督和申訴渠道暢通，及時(shí)處理公眾訴求，對(duì)深度合成服務(wù)管理提出了兼具針對(duì)性、指導(dǎo)性、規(guī)范性的中國(guó)方案。

國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出，深度合成服務(wù)治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方主體共同參與，推動(dòng)深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風(fēng)險(xiǎn)，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。