□ 本報記者 蒲曉磊

“去年‘十一’假期，有網(wǎng)友說，放了7天假，卻被‘AI雷軍’罵了8天。”全國人大代表，小米集團(tuán)創(chuàng)始人、董事長兼首席執(zhí)行官雷軍說，當(dāng)自己想通過法律維權(quán)時，卻發(fā)現(xiàn)對此沒有專門的立法，只能以侵犯隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等起訴，而這些都要量化損失，“在網(wǎng)上被罵8天，損失根本沒法量化”。

北京互聯(lián)網(wǎng)法院3月13日在通報建院以來涉網(wǎng)絡(luò)消費(fèi)虛假宣傳案件審理情況時指出，一些商家利用AI技術(shù)假冒公眾人物形象制作虛假廣告，或利用網(wǎng)紅達(dá)人進(jìn)行“種草”營銷，并通過算法精準(zhǔn)推送，導(dǎo)致消費(fèi)者容易“踩雷”。

無論是名人還是普通人，在被“AI換臉擬聲”行為侵權(quán)時，都會感到苦不堪言。

對此，多名全國人大代表建議，加快制定人工智能法，對人工智能法律問題作出全面規(guī)定，明確強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺責(zé)任、加大懲處力度等內(nèi)容，填補(bǔ)因人工智能技術(shù)興起而形成的各法律之間的空白地帶，為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用提供有力法治保障。

不當(dāng)濫用帶來社會治理風(fēng)險

近年來，人工智能為社會生活和商業(yè)活動帶來巨大便利和機(jī)遇的同時，也衍生出一系列社會、倫理、安全和法律問題，引發(fā)社會公眾普遍關(guān)注。

陜西警方2024年通報一起案件，某公司財務(wù)人員接到經(jīng)理的視頻通話，要求她轉(zhuǎn)賬186萬元到一個指定賬戶。因?yàn)橐曨l通話中對方的聲音、長相和言談舉止都與經(jīng)理一樣，財務(wù)人員迅速完成轉(zhuǎn)賬。事后當(dāng)上級領(lǐng)導(dǎo)詢問時，財務(wù)人員才發(fā)現(xiàn)被騙并連忙報警求助，最終保住了其中的156萬元。在本案中，犯罪分子就是用人工智能實(shí)現(xiàn)了聲音和視頻畫面的深度偽造，以此實(shí)施詐騙。

近段時間，有商家在視頻切片中通過AI技術(shù)更換專家語音和字幕，制作虛假廣告，不少消費(fèi)者上當(dāng)受騙。

“過去一年，至少有幾十個視頻冒用我的聲音、形象講述虛假內(nèi)容，有的連我自己都覺得很逼真?！比珖舜蟠怼⒅袊こ淘涸菏繌埐Y表示，利用人工智能生成虛假內(nèi)容的違法犯罪事件越來越多，必須采取有力措施予以遏制。

雷軍指出，“AI換臉擬聲”不當(dāng)濫用造成了違法侵權(quán)行為頻發(fā)，易引發(fā)侵犯肖像權(quán)、隱私權(quán)以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模聲譽(yù)損害，帶來社會治理等風(fēng)險。AI深度合成技術(shù)具有所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來較大挑戰(zhàn)。

相關(guān)制度存在一定滯后性

近年來，為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，我國持續(xù)完善相關(guān)制度。

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，該辦法將于2025年9月1日起施行。在此之前，我國還頒布實(shí)施了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》。

多名全國人大代表認(rèn)為，相關(guān)法規(guī)、規(guī)章在促進(jìn)人工智能健康發(fā)展方面發(fā)揮了重要作用，但由于位階低、內(nèi)容分散等原因，不足以充分應(yīng)對人工智能技術(shù)所引發(fā)的各類問題。

雷軍認(rèn)為，相關(guān)法規(guī)、規(guī)章的頒布實(shí)施，對人工智能立法進(jìn)行了有益探索。但目前“AI換臉擬聲”的有關(guān)規(guī)定，尚存在效力位階偏低、內(nèi)容偏原則且分散、多個部門職責(zé)交叉或職權(quán)定位有待明晰等不足，導(dǎo)致現(xiàn)階段針對“AI換臉擬聲”造成的侵害，只能依靠基礎(chǔ)法律中關(guān)于隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等的零散法條進(jìn)行規(guī)制。

全國人大代表、西南政法大學(xué)教授付子堂表示，人工智能等技術(shù)加速突破，必將深刻改變?nèi)藗儸F(xiàn)行的生產(chǎn)生活方式，而目前相關(guān)的法律制度存在一定滯后性。例如，生成式人工智能等新興領(lǐng)域存在規(guī)范真空，數(shù)據(jù)隱私保護(hù)、算法責(zé)任認(rèn)定等方面存在法律適用問題，并且在個人數(shù)據(jù)信息保護(hù)、算力治理等方面存在多頭管理問題，監(jiān)管協(xié)同性不足。

細(xì)化認(rèn)定標(biāo)準(zhǔn)加大懲處力度

2025年全國人大常委會工作報告指出，要圍繞人工智能、數(shù)字經(jīng)濟(jì)、大數(shù)據(jù)、自動駕駛、低空經(jīng)濟(jì)、航天等新興領(lǐng)域加強(qiáng)立法研究。

多名全國人大代表建議，加快人工智能立法進(jìn)程，有力解決人工智能發(fā)展和崛起所導(dǎo)致的各類法律問題，促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。

“立法層面對于謠言的認(rèn)定標(biāo)準(zhǔn)和處罰措施還有待細(xì)化完善，懲處力度也需要加大，此外AI技術(shù)服務(wù)提供者的監(jiān)督責(zé)任也需要加強(qiáng)，全力引導(dǎo)技術(shù)向善。”全國人大代表、中華全國律師協(xié)會副會長萬立認(rèn)為，這些內(nèi)容在立法時都要有所考慮。

“要著手構(gòu)建階梯式法律框架，夯實(shí)制度根基，可細(xì)分制定人工智能法等專門法律，并完善能與個人信息保護(hù)法等上位法相銜接的、對深度合成內(nèi)容進(jìn)行有效規(guī)范的配套條例?！备蹲犹谜f。

雷軍建議，探索推出人工智能單行法，提高立法位階及其效力，在分級分類的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確“AI換臉擬聲”應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。

“要規(guī)范‘AI換臉擬聲’技術(shù)的不當(dāng)利用，有必要要求深度合成服務(wù)提供商對人工智能生成的內(nèi)容進(jìn)行強(qiáng)制標(biāo)識，減少惡意濫用。這也有助于厘清責(zé)任、對違法犯罪行為追責(zé)?！比珖舜蟠恚琓CL創(chuàng)始人、董事長李東生說。