本刊記者 白楚玄

從1956年達(dá)特茅斯會(huì)議上人工智能概念的首次提出，到當(dāng)下深度學(xué)習(xí)技術(shù)的蓬勃興起，人工智能領(lǐng)域經(jīng)歷了從理論構(gòu)想到技術(shù)實(shí)踐的數(shù)次歷史性飛躍。然而，隨著技術(shù)的快速迭代，技術(shù)焦慮也在各領(lǐng)域被頻頻提及。具體到法律和監(jiān)管層面，AI在知識(shí)產(chǎn)權(quán)、數(shù)據(jù)安全、倫理道德等方面帶來(lái)的潛在風(fēng)險(xiǎn)日益凸顯。

受訪專家普遍認(rèn)為，隨著人工智能技術(shù)的快速發(fā)展，技術(shù)治理需要與法律實(shí)踐緊密結(jié)合，既要促進(jìn)技術(shù)創(chuàng)新，又要防范潛在風(fēng)險(xiǎn)。未來(lái)需要進(jìn)一步完善相關(guān)法律法規(guī)，明確責(zé)任主體，加強(qiáng)技術(shù)監(jiān)管。

政策驅(qū)動(dòng)與技術(shù)突破形成共振效應(yīng)

今年春節(jié)期間，DeepSeek-R1大模型火爆出圈，成為史上最快突破3000萬(wàn)日活的App，其海外版更登頂蘋果美國(guó)應(yīng)用商店榜首。這僅是AI中國(guó)方案國(guó)際化的一個(gè)注腳——數(shù)據(jù)顯示，截至2024年底，全國(guó)已有302款生成式AI服務(wù)完成網(wǎng)信辦備案，2024年新增備案238款。這些數(shù)據(jù)表明，中國(guó)在AI領(lǐng)域的創(chuàng)新能力正持續(xù)迸發(fā)。

《中國(guó)發(fā)展報(bào)告2024》顯示，中國(guó)人工智能發(fā)展處于全球第一方陣，中國(guó)在需求潛力、供給能力和智能基礎(chǔ)設(shè)施等方面具備獨(dú)特優(yōu)勢(shì)和強(qiáng)大潛能。

井噴式增長(zhǎng)背后，是持續(xù)多年的制度筑基工程。自2017年“人工智能”首次被寫入《政府工作報(bào)告》，國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》實(shí)施以來(lái)，《生成式人工智能服務(wù)管理暫行辦法》《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南(2024版)》等專項(xiàng)規(guī)章持續(xù)釋放制度紅利，為我國(guó)人工智能產(chǎn)業(yè)發(fā)展注入強(qiáng)心劑。

《人工智能治理藍(lán)皮書(2024年)》顯示，我國(guó)已構(gòu)建起“1+N”治理體系，以我國(guó)網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法為基礎(chǔ)，配套出臺(tái)算法推薦、深度合成、生成式AI等專項(xiàng)規(guī)章，形成覆蓋研發(fā)、訓(xùn)練、應(yīng)用全鏈條的規(guī)制網(wǎng)絡(luò)。

“我國(guó)依托海量數(shù)據(jù)、豐富場(chǎng)景和體制優(yōu)勢(shì)，在理論創(chuàng)新與制度建設(shè)層面已躋身全球前列。”中國(guó)人民大學(xué)法學(xué)院院長(zhǎng)楊東說(shuō)，類似現(xiàn)象級(jí)產(chǎn)品的成功，既推動(dòng)全球范圍內(nèi)人工智能協(xié)調(diào)融合發(fā)展，也帶來(lái)更多人工智能的法律挑戰(zhàn)。

回歸到治理機(jī)制，中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員、博士生導(dǎo)師姚佳指出，人工智能治理也存在“科林格里奇困境”，即如何平衡發(fā)展和風(fēng)險(xiǎn)防范的問(wèn)題。當(dāng)前已出現(xiàn)個(gè)人信息保護(hù)、知識(shí)產(chǎn)權(quán)保護(hù)與人工智能數(shù)據(jù)利用之間的矛盾,“法律需要不斷調(diào)適優(yōu)化以破解這些矛盾”。

法治探索破解AI時(shí)代新命題

伴隨著勢(shì)頭強(qiáng)勁的AI技術(shù)發(fā)展，法律問(wèn)題也日益復(fù)雜，尤其是在知識(shí)產(chǎn)權(quán)領(lǐng)域。在AI時(shí)代背景下，糾紛的核心議題除“獨(dú)創(chuàng)性認(rèn)定”外，還包括所生成內(nèi)容的“版權(quán)歸屬界定”和機(jī)器學(xué)習(xí)海量數(shù)據(jù)來(lái)源的合法性問(wèn)題。

2023年，北京互聯(lián)網(wǎng)法院審理的“國(guó)內(nèi)首例‘AI文生圖’著作權(quán)侵權(quán)案”引發(fā)廣泛關(guān)注。此后，廣州、江蘇、湖北等地區(qū)的法院已有多個(gè)相關(guān)人工智能生成內(nèi)容的著作權(quán)判例。AI生成作品爭(zhēng)議在國(guó)外也屢見(jiàn)不鮮，如美國(guó)多名藝術(shù)家集體起訴AI圖像生成軟件侵權(quán);AI創(chuàng)作藝術(shù)品的拍賣會(huì)被逾6000人以“侵害人類藝術(shù)家利益”為由呼吁取消。

此外，AI大模型的訓(xùn)練和應(yīng)用涉及大量用戶數(shù)據(jù)，如何確保數(shù)據(jù)來(lái)源和使用合法，已成為企業(yè)和監(jiān)管機(jī)構(gòu)共同面臨的難題。

“數(shù)據(jù)質(zhì)量?jī)?yōu)于數(shù)量，高質(zhì)量的數(shù)據(jù)是人工智能發(fā)展的基礎(chǔ)?！蔽髂险ù髮W(xué)人工智能法學(xué)院院長(zhǎng)陳亮強(qiáng)調(diào)，當(dāng)大模型訓(xùn)練涉及數(shù)億用戶數(shù)據(jù)時(shí)，傳統(tǒng)的知情同意機(jī)制已顯乏力，亟須構(gòu)建數(shù)據(jù)全生命周期治理體系。

陳亮認(rèn)為，未來(lái)人工智能立法需要考慮數(shù)據(jù)碎片化、數(shù)據(jù)傳輸過(guò)程中數(shù)據(jù)丟失、數(shù)據(jù)隱私與數(shù)據(jù)質(zhì)量的平衡、數(shù)據(jù)質(zhì)量管理的系統(tǒng)化和體系化等事宜。

風(fēng)險(xiǎn)規(guī)制構(gòu)建治理新范式

技術(shù)優(yōu)勢(shì)的終極轉(zhuǎn)化，在于構(gòu)建具有范式意義的治理體系。我國(guó)司法的創(chuàng)新實(shí)踐為制度完善提供了樣本。

各地法院積極探索適應(yīng)AI時(shí)代的裁判規(guī)則。據(jù)悉，上海浦東法院在2024年某案中引入“貢獻(xiàn)度測(cè)試法”，根據(jù)人類在提示詞設(shè)計(jì)、結(jié)果篩選中的參與程度判定是否構(gòu)成作品;北京互聯(lián)網(wǎng)法院嘗試將AI生成內(nèi)容納入鄰接權(quán)保護(hù)范疇，還在全國(guó)首例“AI聲音侵權(quán)案”中明確認(rèn)定在具備可識(shí)別性前提下，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音……

近日，備受關(guān)注的杭州互聯(lián)網(wǎng)法院審理的“奧特曼案”落下帷幕?！斑@是中國(guó)法院首次認(rèn)定生成式模型的數(shù)據(jù)訓(xùn)練符合著作權(quán)法合理使用的要求?？梢钥闯觯覈?guó)在模型數(shù)據(jù)訓(xùn)練方面采取了相對(duì)寬松的認(rèn)定標(biāo)準(zhǔn)，支持開源和技術(shù)創(chuàng)新。”中國(guó)人民大學(xué)法學(xué)院講師王雪喬指出。

在技術(shù)應(yīng)用方面，上海于2017年初啟動(dòng)了司法審判人工智能輔助系統(tǒng)的開發(fā)。2024年，北京高院大力推進(jìn)面向司法審判和監(jiān)督的檢索推理生成大模型技術(shù)研究及示范應(yīng)用，建成“1平臺(tái)3應(yīng)用”智能輔助辦案的階段性成果。“數(shù)字法院改革是一種全局性的數(shù)字司法改革，其框架體系、技術(shù)平臺(tái)建設(shè)路徑和操作規(guī)程已初步形成?！比A東政法大學(xué)中國(guó)法治戰(zhàn)略研究院副研究員張迪說(shuō)。

“面向人工智能法治3.0時(shí)代，中國(guó)需以更開放的姿態(tài)引領(lǐng)規(guī)則制定，將技術(shù)優(yōu)勢(shì)轉(zhuǎn)化為治理優(yōu)勢(shì)，共同應(yīng)對(duì)挑戰(zhàn)和機(jī)遇。”楊東說(shuō)。