本刊記者 白楚玄

上傳一張人臉照片，經過實時人工智能算法，瞬間就可以將其面部變成你想要的樣子……隨著AI技術的普及，“AI換臉”“AI合成照片”“AI渲染視頻”等技術被廣泛應用于多個領域。在增添趣味性的同時，也引發(fā)了不小爭議。對此，有網友憤憤表示：“‘AI換臉’，這不是明目張膽地行騙嗎?”“這年頭還有什么是真實的?”“‘AI換臉’是否合法合規(guī)?”諸如此類問題也引起社會廣泛討論。

“AI換臉”技術被濫用

近年來，隨著人工智能的快速發(fā)展，“AI換臉”技術門檻逐漸降低，普通人也能方便地制作換臉視頻。

所謂“AI換臉”，是指通過面部識別和人工智能深度合成，將一張臉替換成另一張臉的技術，生成的照片或視頻中人物面部表情自然且效果逼真。

目前，在一些電商平臺，“AI換臉”已形成了一定規(guī)模的產業(yè)。本刊記者檢索發(fā)現(xiàn)，網上有很多“AI換臉”的工具或教程，這些教程通過視頻、文章等形式傳播，并提供換臉軟件的下載渠道。這些軟件有的需要付費，有的則通過點贊、關注、評論就能獲取。

記者向一家提供“虛擬人、數(shù)字人建模定制”的網店進行了咨詢，商家表示：“虛擬明星面容由你定制?！逼洚a品中適合直播聊天的“實時版”現(xiàn)成模型，費用為2000元/套。

中國政法大學知識產權研究中心研究員鄭中臣表示，“AI換臉”在科技領域叫AIGC，伴隨著深度合成技術的開放開源，相關產品和服務逐漸增多，AIGC發(fā)明之初是用于視頻剪輯及模擬智能學習領域，但現(xiàn)在越來越被濫用且不受控制。

2023年3月，一名特效師利用AI合成技術，制造出自己和迪麗熱巴“熱吻”的特效合成畫面，引起迪麗熱巴粉絲們的強烈不滿。更有甚者，利用“AI換臉”技術“造黃謠”，引發(fā)大眾的關注和擔憂。2023年4月，博主“caro賴賴”發(fā)文稱，有人盜用她的“臉”制作不雅視頻。此前，一女子乘坐地鐵的照片被AI“一鍵脫衣”后在網絡上傳播，造成不良社會影響。

暗藏侵權法律風險

事實上，“AI換臉”技術的濫用，在現(xiàn)實生活中已引發(fā)多起侵權糾紛。

上海市金山區(qū)人民法院和浙江杭州互聯(lián)網法院都曾審理過因“AI換臉”App利用深度合成算法侵害他人肖像權的案件，均判決App開發(fā)者賠禮道歉并賠償損失。

部分“AI換臉”行為，也已涉嫌刑事犯罪。近日，內蒙古包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例。騙子通過“AI換臉”和擬聲技術佯裝好友，對受害人實施詐騙，受害人10分鐘內被騙子騙走430萬元。

2022年9月，河北保定網警破獲一起制作、販賣、傳播淫穢物品牟利案。犯罪嫌疑人在網上以每10分鐘300元的價格，售賣利用“AI換臉”技術制作“明星”淫穢視頻。

中華全國律師協(xié)會知識產權委員會主任、高文律師事務所合伙人王正志認為，“AI換臉”會給公民人身及財產安全造成潛在危害。利用“AI換臉”技術制作不雅視頻的行為，違反了治安管理處罰法、網絡安全法等，情節(jié)嚴重的，還可能構成幫助信息網絡犯罪活動罪等刑事犯罪。此外，在民事領域，“AI換臉”可能構成對他人肖像權和名譽權的侵犯。

在中國傳媒大學人類命運共同體研究院副院長王四新看來，“AI換臉”會對當前社會建立的認證系統(tǒng)構成沖擊，給從事民事活動的主體帶來了不確定性，增加了認證和鑒別的交易成本。

加強行業(yè)部門監(jiān)管

目前，我國刑法、民法典、網絡安全法以及國家有關部門出臺的多部法律法規(guī)及政策規(guī)定，對生物識別、生成合成類內容等提出了不同程度的規(guī)制要求。

2023年1月施行的《互聯(lián)網信息服務深度合成管理規(guī)定》進一步明確了深度合成數(shù)據(jù)和技術管理規(guī)范，對深度合成內容的用途、標記、使用范圍以及濫用處罰作出具體規(guī)定，并對作為深度合成服務提供者的平臺方進行審核、評估、監(jiān)管等都提出了明確要求。

“《互聯(lián)網信息服務深度合成管理規(guī)定》等劃定了底線，將深度合成技術帶來的法律風險基本堵住了?！敝袊ù髮W傳播法研究中心副主任朱巍告訴記者。

目前，也有專業(yè)人士認為，對于“AI換臉”等深度合成服務與應用方面的規(guī)范還需進一步細化和明確。

鄭中臣表示，需要法律和技術“雙管齊下”。一方面，需對“AI換臉”技術的開發(fā)者以及相應的科技公司建立嚴格的備案手續(xù)和安全評估等級;另一方面，建議網絡服務平臺對使用上傳視頻服務的用戶信息進行審核，識別其中是否有人工合成的要素，并進行顯著標識避免混淆。

對此，王四新建議，“AI換臉”等深度合成服務提供商要主動承擔起提示和標識義務，履行自身的法律責任。如相關視頻發(fā)布時應當在顯著位置標注“人臉合成視頻”，以盡到提示和標識義務。

“立法是一個層面，還需要行業(yè)和監(jiān)管部門從源頭來解決問題。”王四新認為，行業(yè)和監(jiān)管部門應當加快技術升級，研發(fā)相應的“換臉”檢測技術，加快建立人工智能算法的安全評估制度，解決相關技術濫用問題;AI發(fā)布者應對相關產品用于大眾傳播領域可能存在的風險進行明確，并制定相應的使用規(guī)則、限制等，以增加用戶個人的判斷能力，從技術層面、應用端、使用端解決問題。