濫用AI會踩進哪些法律雷區(qū)
近年來，隨著人工智能技術(shù)的迅猛發(fā)展，利用AI進行詐騙、侵權(quán)等事件頻發(fā)，一些行為已影響到部分行業(yè)的良性發(fā)展，侵犯了消費者的權(quán)益。那么，濫用AI技術(shù)踩進了哪些法律雷區(qū)呢？
1“AI換臉”涉嫌侵犯他人肖像權(quán)
知名網(wǎng)紅博主姚某在各大平臺均有大量“粉絲”，他長期在自媒體賬號中發(fā)布以自身為主題的系列攝影作品。一天，姚某發(fā)現(xiàn)某文化公司的視頻生成App上，未經(jīng)許可擅自使用了他的4個寫真視頻，并制作成換臉視頻模板，提供給付費會員使用。文化公司使用的視頻與原視頻對比后，可清晰辨別視頻中的人物為姚某。姚某認為，該公司在未與其達成書面或者口頭授權(quán)協(xié)議的情況下，使用載有自己肖像的視頻，且目的明顯帶有商業(yè)盈利宣傳的屬性，此種利用其肖像進行產(chǎn)品推廣的行為，應(yīng)承擔相應(yīng)侵權(quán)責任，故訴至法院。
法院認為，文化公司涉案視頻的人物與姚某肖像具有同一性，該公司以“換臉”為主要功能及賣點，其實質(zhì)是利用姚某良好的外部形象所拍攝的素材引流，誘導(dǎo)用戶點擊下載，并采用會員付費的方式經(jīng)營。該公司使用涉案視頻的行為具有盈利目的，且涉案視頻客觀上起到了引流宣傳和促進用戶付費的效果。公司未經(jīng)姚某同意，通過AI換臉技術(shù)替換了原視頻中的角色用于軟件用戶的娛樂，是利用信息技術(shù)偽造的方式侵害了姚某的肖像權(quán)。因此，法院最終判決文化公司在其運營的手機換臉軟件中向姚某進行7日的賠禮道歉，并賠償經(jīng)濟損失4000元。
法官提醒
近年來，“AI換臉”在影視、社交等領(lǐng)域廣泛興起，成為社會喜聞樂見、傳播力強的技術(shù)應(yīng)用。但同時，僅需幾段公開視頻即可生成以假亂真的內(nèi)容，“AI換臉”的濫用也成為違法侵權(quán)行為重災(zāi)區(qū)。
民法典第一千零一十八條規(guī)定：自然人享有肖像權(quán)，有權(quán)依法制作、使用、公開或者許可他人使用自己的肖像。第一千零一十九條規(guī)定：任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。自然人的肖像，指的是通過影像、雕塑、繪畫等方式在一定載體上所反映的特定自然人可以被識別的外部形象。與通過展覽等傳統(tǒng)方式侵犯他人肖像權(quán)不同的是，在AI技術(shù)的加持下，出現(xiàn)了本案中以“換臉”方式侵犯他人肖像權(quán)的新特點。
本案中，文化公司未經(jīng)姚某同意，將其出鏡的系列攝影作品運用換臉技術(shù)用作自身商業(yè)盈利，涉嫌侵犯姚某所享有的肖像權(quán)益。根據(jù)法律規(guī)定，文化公司應(yīng)賠償姚某為制止侵權(quán)行為所支付的合理開支及財產(chǎn)損失。
隨著AI深度合成技術(shù)的快速發(fā)展，市場上出現(xiàn)了大量“換臉”“換妝”等應(yīng)用軟件，此類AI技術(shù)在應(yīng)用中發(fā)生的侵犯自然人人格權(quán)益風險日益引發(fā)關(guān)注。不法分子利用AI技術(shù)，假冒名人身份進行詐騙、發(fā)布虛假廣告等，嚴重威脅社會信任體系和信息安全。
商家在利用AI技術(shù)開展經(jīng)營生產(chǎn)過程中，若抱有僥幸心理，罔顧權(quán)利保護意識和法律風險防范意識，對包含他人肖像的網(wǎng)上素材盲目利用，最終往往偷雞不成蝕把米。國家網(wǎng)信辦頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》主要針對深度合成服務(wù)者的義務(wù)進行了規(guī)定，其中要求深度合成服務(wù)提供者提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當進行顯著標識，避免公眾混淆或者誤認?？梢?，做好風險防范首先還要從技術(shù)開發(fā)者、服務(wù)提供者入手。
2 AI提取視頻要素或侵犯個人信息權(quán)益
自媒體創(chuàng)作者吳某發(fā)布了個人肖像原創(chuàng)作品50余件，數(shù)次參加商演、商拍活動以及帶貨推廣等。在吳某未授權(quán)同意的情況下，某公司運營的一款手機換臉軟件，將吳某的人臉通過AI技術(shù)手段摳除并替換成第三方的臉，再將技術(shù)處理后的視頻用作付費模板供他人使用并以此獲利。吳某認為這一行為侵犯了其肖像權(quán)及個人信息權(quán)益，訴至法院要求公司書面賠禮道歉，并賠償經(jīng)濟損失和精神損害撫慰金。
法院認為，該手機換臉軟件涉及吳某的模板視頻除面部以外，與吳某視頻中的人物妝容、發(fā)型、服飾、動作、燈光及鏡頭切換呈現(xiàn)一致特征。涉案模板視頻去除并替換掉吳某的面部肖像，消解甚至破壞了涉案模板視頻中識別吳某的功能，因此公司并未侵犯肖像權(quán)。但公司通過“換臉”形成模板視頻的過程，涉及對吳某個人信息的收集、使用、分析等，屬于對吳某個人信息的處理。該行為無證據(jù)證明經(jīng)過吳某同意，侵害了對方的個人信息權(quán)益。法院結(jié)合吳某個人信息的性質(zhì)、被使用的實際情況等，最終判令公司賠償吳某精神損失500元及財產(chǎn)損失1000元。
法官提醒
“AI換臉”App除了給用戶提供海量的影視片段、網(wǎng)絡(luò)視頻外，同樣也在不斷收集用戶的個人信息，因此App運營者濫用用戶個人信息的現(xiàn)象時有發(fā)生。
我國個人信息保護法第二十七條規(guī)定：個人信息處理者可以在合理的范圍內(nèi)處理個人自行公開或者其他已經(jīng)合法公開的個人信息；個人明確拒絕的除外。個人信息處理者處理已公開的個人信息，對個人權(quán)益有重大影響的，應(yīng)當依照本法規(guī)定取得個人同意。第四十四條規(guī)定：個人對其個人信息的處理享有知情權(quán)、決定權(quán)，有權(quán)限制或者拒絕他人對其個人信息進行處理；法律、行政法規(guī)另有規(guī)定的除外。
與第一個案件不同，本案中，某公司在運營過程中主動將自然人吳某的肖像剔除，因此法院認定該公司并未侵犯吳某的肖像權(quán)。數(shù)字技術(shù)的高速發(fā)展，使得文化創(chuàng)作內(nèi)容上可能同時承載肖像權(quán)、著作權(quán)、個人信息權(quán)益等多種權(quán)益或利益，個人信息同樣可以進入數(shù)據(jù)要素市場并創(chuàng)造價值。本案中，公司雖未利用吳某的肖像，但利用其原創(chuàng)視頻中除肖像外的一切要素，侵犯了吳某的個人信息權(quán)益。
個人信息是以電子或者其他方式記錄的與已識別或者可識別的自然人有關(guān)的各種信息，不包括匿名化處理后的信息。在不違反法律法規(guī)和公序良俗的前提下，商家合理利用人工智能深度合成等新興技術(shù)，可以豐富相關(guān)市場供給，給群眾帶來更新型的審美享受。但在創(chuàng)新的同時，商家也需要兼顧信息敏感程度、信息主體情況、侵權(quán)方式、對個人的實際影響和潛在風險等因素綜合判斷創(chuàng)新所帶來的法律風險。
對于普通群眾而言，不管是在互聯(lián)網(wǎng)上還是社交軟件上，盡量避免過多地暴露自己的信息，對寫錯、作廢、用過的金融業(yè)務(wù)單據(jù)、航空艙單，應(yīng)撕碎或用碎紙機及時銷毀，不可隨意丟棄，以防不法分子撿拾后查看、抄錄、破譯個人信息。
3 利用AI概念“偽智能”營銷涉嫌欺詐
劉某在參觀美博會期間，花費6000元購買了兩件某公司生產(chǎn)的“AI智能穿戴健康內(nèi)衣”。該公司對外宣稱，涉案產(chǎn)品上植入了三甲醫(yī)院乳腺治療儀芯片，利用AI生物電共振原理，能有效預(yù)防和緩解各類乳腺疾病，堪稱“穿在身上的理療儀”。但劉某堅持使用半年以上后，發(fā)現(xiàn)其疾病癥狀并未改善。劉某認為該公司對涉案產(chǎn)品實施了虛假宣傳行為，因此訴至法院要求公司退回貨款、支付三倍賠償?shù)取?/p>
法院審理后認為，公司未提供證據(jù)證明涉案產(chǎn)品已經(jīng)過相關(guān)醫(yī)療管理部門的審核，應(yīng)承擔舉證不能的不利后果。公司為推銷不屬于醫(yī)療器械類產(chǎn)品的涉案商品而制作的商業(yè)廣告，違反了廣告法和消費者權(quán)益保護法的相關(guān)規(guī)定，使劉某誤認為涉案產(chǎn)品具有醫(yī)療功能而進行消費，公司的廣告宣傳行為存在欺詐情形。法院最終判令公司退還貨款并支付三倍賠償，劉某退還涉案產(chǎn)品。
法官提醒
廣告法第十七條規(guī)定：除醫(yī)療、藥品、醫(yī)療器械廣告外，禁止其他任何廣告涉及疾病治療功能，并不得使用醫(yī)療用語或者易使推銷的商品與藥品、醫(yī)療器械相混淆的用語。第二十八條規(guī)定：廣告以虛假或者引人誤解的內(nèi)容欺騙、誤導(dǎo)消費者的，構(gòu)成虛假廣告。
消費者權(quán)益保護法第五十五條規(guī)定：經(jīng)營者提供商品或者服務(wù)有欺詐行為的，應(yīng)當按照消費者的要求增加賠償其受到的損失，增加賠償?shù)慕痤~為消費者購買商品的價款或者接受服務(wù)的費用的三倍；增加賠償?shù)慕痤~不足500元的，為500元。法律另有規(guī)定的，依照其規(guī)定。上述案例中，某公司借助AI概念進行虛假廣告宣傳，進行“偽智能”營銷，因其不誠信的欺詐行為導(dǎo)致涉案合同發(fā)生撤銷的法律后果，并受到了三倍賠償?shù)膽土P。
日常生活中，一些公司借助AI概念進行產(chǎn)品宣發(fā)，利用消費者對人工智能的期待與信賴牟利。消費者非專業(yè)人士，對相關(guān)產(chǎn)品的AI含量和實際功效往往缺乏認知，容易掉入商家精心編織的圈套中，因此在購買相關(guān)“高科技”產(chǎn)品時，需要擦亮眼睛，警惕虛假宣傳。
延伸閱讀
如何判斷視頻通話的對面是真人還是AI
人們進行視頻通話時，可以通過觀察視頻人物的臉部特征以及細節(jié)來分辨真假。
“AI人”的牙齒、眼睛細節(jié)有漏洞。人眼一般會看向同一個方向，眼球一般顏色一樣；但AI生成的人眼大部分看的方向不一致，且瞳孔顏色不一樣，兩只耳朵的大小甚至高度也不一致，牙齒邊緣過于整齊。
“AI人”眨眼頻率不正常。一個健康成年人，一般間隔2至10秒眨一次眼，每次眨眼用時0.1至0.4秒；而在偽造視頻中，人的眨眼頻率可能不符合上述規(guī)律，甚至不會眨眼。
此外，與“AI人”的視頻通話一般不順暢。偽造的視頻可能出現(xiàn)視頻抖動、閃爍的畫面。當提出應(yīng)有情感回應(yīng)的問題時，“AI人”可能會給出平淡、冷漠或者不相關(guān)的回答。
面對正在發(fā)生的AI換臉詐騙行為，人們應(yīng)當?shù)谝粫r間和本人或者其他的身邊人核實確認，不要隨意轉(zhuǎn)賬，涉及違法犯罪活動的，要及時報警。（北京市朝陽區(qū)人民法院 田英豪 李麗花）
編輯：莫亞奇
京公網(wǎng)安備 11010502000576號