11月21日，在2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會期間，人工智能時代的網(wǎng)絡(luò)法治論壇圍繞人工智能時代的個人信息與數(shù)據(jù)制度進(jìn)行深入探討，引發(fā)關(guān)注。事實上，如何在人工智能時代構(gòu)建有效的個人信息與數(shù)據(jù)制度、如何回應(yīng)社會相關(guān)關(guān)切、如何借鑒國際先進(jìn)經(jīng)驗等，正成為一個重要話題。

個人信息和數(shù)據(jù)安全問題引發(fā)關(guān)注

近年來，人工智能呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機協(xié)同、群智開放、自主操控等新特征，成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力。然而，在人工智能飛速發(fā)展的同時，個人信息和數(shù)據(jù)安全問題也越來越引發(fā)社會關(guān)切。

南開大學(xué)法學(xué)院副院長、中國新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員陳兵分析，在人工智能的訓(xùn)練過程中需要海量的數(shù)據(jù)，當(dāng)用戶在使用過程中授權(quán)其使用相關(guān)資料，人工智能便會爬取其大量數(shù)據(jù)信息，其中包含了大量敏感信息。如果沒有建立數(shù)據(jù)安全保障措施，容易造成信息泄露風(fēng)險，導(dǎo)致數(shù)據(jù)的濫用，違反相關(guān)法律法規(guī)和合規(guī)要求，同時降低人們對于人工智能的可信度，不利于行業(yè)未來的健康發(fā)展。

南京師范大學(xué)法學(xué)院教授梁志文表示，人工智能技術(shù)應(yīng)用中的個人數(shù)據(jù)處理是以用戶同意為前提，但是在現(xiàn)實中，這種“同意”往往流于形式，并且傳統(tǒng)的個人數(shù)據(jù)保護(hù)的匿名化處理在實際操作中仍存在困境。 

東南大學(xué)法學(xué)院教授李川認(rèn)為，在人工智能飛速發(fā)展的場域下，不僅知情同意的基本規(guī)范存在無法判斷的失靈問題，個人信息非法轉(zhuǎn)移、過度處理、不當(dāng)篡改利用等問題都難以被當(dāng)前的個人信息保護(hù)規(guī)范有效解決，從而出現(xiàn)一些個人信息的保護(hù)困境。

“如果一味追求人工智能發(fā)展的速度，而忽視信息保護(hù)等方面可能存在的風(fēng)險，將可能導(dǎo)致中國人工智能相關(guān)業(yè)態(tài)難以真正實現(xiàn)健康持續(xù)的發(fā)展?！标惐f。

堅持發(fā)展與規(guī)范并舉

從2023年初ChatGPT驚艷問世，到2024年初Sora再次引起全球關(guān)注，人工智能技術(shù)發(fā)展的腳步日益加快。

據(jù)《中國新一代人工智能科技產(chǎn)業(yè)發(fā)展報告2024》顯示，目前中國人工智能企業(yè)數(shù)量已經(jīng)超過4400家，并構(gòu)建起包括智能芯片、大模型、基礎(chǔ)架構(gòu)和操作系統(tǒng)、工具鏈、深度學(xué)習(xí)平臺和應(yīng)用技術(shù)在內(nèi)的人工智能技術(shù)體系、產(chǎn)業(yè)創(chuàng)新生態(tài)和企業(yè)聯(lián)盟。而在人工智能應(yīng)用領(lǐng)域，中國人工智能已被廣泛應(yīng)用于包括智慧城市、智能制造、智慧農(nóng)業(yè)、智能教育、智能醫(yī)療、AI for science在內(nèi)的20多個細(xì)分領(lǐng)域。

同時，越來越多人認(rèn)識到，人工智能各類活動應(yīng)保護(hù)隱私安全，充分尊重個人信息知情、同意等權(quán)利，保障個人隱私與數(shù)據(jù)安全，不得損害個人合法數(shù)據(jù)權(quán)益。人工智能發(fā)展需“立規(guī)矩”，也成為一個重要共識。

“未來，需要堅持發(fā)展與規(guī)范并舉，加快推動中國人工智能高質(zhì)量發(fā)展。”陳兵分析，就數(shù)據(jù)制度而言，有必要推動建立面向人工智能的集成數(shù)據(jù)共享、數(shù)據(jù)交易和交換以及數(shù)據(jù)云服務(wù)等多種數(shù)據(jù)服務(wù)的數(shù)據(jù)基礎(chǔ)設(shè)施，統(tǒng)籌利用大數(shù)據(jù)基礎(chǔ)設(shè)施，科學(xué)合理保障個人數(shù)據(jù)安全與隱私保護(hù)，也為人工智能研發(fā)和廣泛應(yīng)用提供海量數(shù)據(jù)支撐。

西南政法大學(xué)人工智能法學(xué)院院長陳亮認(rèn)為，在人工智能時代，個人信息與數(shù)據(jù)承載多重價值。除了作為隱私、數(shù)據(jù)自決以及人格尊嚴(yán)等傳統(tǒng)價值的載體之外，個人信息與數(shù)據(jù)還是人工智能的血脈，對人工智能研發(fā)、部署和使用具有基礎(chǔ)性意義。全球范圍內(nèi)的個人信息與數(shù)據(jù)制度，往往側(cè)重個人信息與數(shù)據(jù)的傳統(tǒng)價值及其保護(hù)，忽略了數(shù)據(jù)作為新興生產(chǎn)要素的重大價值及其保護(hù)。未來的個人信息與數(shù)據(jù)制度的設(shè)計，應(yīng)在平衡傳統(tǒng)權(quán)利保護(hù)與新興技術(shù)創(chuàng)新之間的沖突的前提下，通過相應(yīng)技術(shù)手段的研發(fā)與法律規(guī)范的設(shè)計，在不侵害個人隱私、數(shù)據(jù)自決以及人格尊嚴(yán)的同時，規(guī)范個人信息與數(shù)據(jù)的采集、存儲、交易、訓(xùn)練等涉數(shù)行為，助力人工智能研發(fā)、部署和使用。

李川表示，傳統(tǒng)個人信息賦權(quán)保護(hù)模式未能考量人工智能場域下處理個人信息的復(fù)雜程度與治理困難，因而存在規(guī)范保護(hù)模式轉(zhuǎn)型的必要性。而在確立人工智能場域下個人信息保護(hù)的規(guī)范模式與路徑時，需要根據(jù)人工智能的運行規(guī)律與生成特征，充分考量其處理個人信息的自主性、交互性、動態(tài)性特質(zhì)，才能在技術(shù)與規(guī)范的平衡中實現(xiàn)對個人信息的有效保護(hù)，解決現(xiàn)有個人信息規(guī)范失靈的問題。

加快推動“人工智能立法”

2023年7月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合國家發(fā)展和改革委員會、教育部、科學(xué)技術(shù)部、工業(yè)和信息化部、公安部、國家廣播電視總局發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《暫行辦法》），并于2023年8月15日起施行。該《暫行辦法》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》協(xié)同聯(lián)動，被稱為我國人工智能治理的“三駕馬車”。

多位專家都認(rèn)為，雖然這些法規(guī)一定程度上促進(jìn)了我國現(xiàn)階段人工智能健康發(fā)展，但仍不能較全面地涵蓋人工智能所引發(fā)的包括個人信息保護(hù)與數(shù)據(jù)安全等各類問題，需要加快推動人工智能立法，對人工智能法律問題作出全面規(guī)定，銜接因人工智能技術(shù)興起而形成的各法律間的空白地帶。

事實上，早在2017年，《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》就提出人工智能立法“三步走”戰(zhàn)略目標(biāo)，其核心要義是建構(gòu)完善的“人工智能法律體系”。國務(wù)院2023年度和2024年度“立法工作計劃”均將“人工智能法草案”列入預(yù)備提請全國人大常委會審議草案的范圍。盡管“人工智能法”未能進(jìn)入正式立法計劃，但立法者顯然已經(jīng)意識到人工智能領(lǐng)域體系化立法的必要性。

中國人民大學(xué)法學(xué)院教授張新寶認(rèn)為，人工智能立法應(yīng)當(dāng)以實現(xiàn)體系化的立法為基本方向，以優(yōu)化立法層次為當(dāng)前的主要目標(biāo)，統(tǒng)籌和協(xié)調(diào)涉及人工智能的已有規(guī)范，為人工智能領(lǐng)域的立法體系化提供有力的方向性的基本規(guī)則，并厘清人工智能治理的基本邏輯。同時，人工智能立法應(yīng)當(dāng)妥善應(yīng)對國際競爭與國際合作的張力，在推動人工智能治理和國際合作上面，要倡導(dǎo)建立全球范圍內(nèi)的人工智能治理機制，支持在充分尊重各個國家政策和實踐的基礎(chǔ)上，形成具有廣泛共識的全球人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，推動人工智能能力建設(shè)方面的國際合作。

值得注意的是，2024年8月1日，歐盟《人工智能法案》在整個歐盟范圍內(nèi)生效，這也是迄今為止全球首部對人工智能進(jìn)行全面監(jiān)管的法案。據(jù)悉，歐盟《人工智能法案》相關(guān)規(guī)則將分階段實施，某些規(guī)則將在該法律通過6個月后或12個月后生效，而大部分規(guī)則將于2026年8月2日開始生效。

中國社會科學(xué)院法學(xué)研究所教授姚佳分析，歐盟《人工智能法案》對個人數(shù)據(jù)的處理仍以遵循《通用數(shù)據(jù)保護(hù)條例》（GDPR）為基本原則，但同時也為了應(yīng)對人工智能系統(tǒng)中的偏見和支持創(chuàng)新措施，亦有一些處理個人數(shù)據(jù)的例外。比如，在高風(fēng)險人工智能系統(tǒng)中，尤其是對于偏見檢測和糾正之時，也可以處理特殊類別的個人數(shù)據(jù)，即我們通常所說的“敏感個人信息”，但處理方式上有嚴(yán)格限制，比如假名化、對訪問的嚴(yán)格控制和記錄、不得傳輸、轉(zhuǎn)移以及保存期結(jié)束即刪除等較為嚴(yán)格的要求。另外，為了進(jìn)一步支持創(chuàng)新，在“沙盒監(jiān)管”（指先劃定一個范圍，對在“盒子”里面的企業(yè)，采取包容審慎的監(jiān)管措施——編者注）中，為公共利益而開發(fā)、訓(xùn)練和測試“沙盒監(jiān)管”中的特定人工智能系統(tǒng)，也可以處理個人數(shù)據(jù)，但同時應(yīng)遵循一系列嚴(yán)格要求。

陳亮認(rèn)為，未來，需要從我國人工智能立法素材中不斷總結(jié)制度建設(shè)經(jīng)驗，并比較借鑒域外立法，進(jìn)一步完善我國人工智能法律制度藍(lán)圖。人工智能是由數(shù)據(jù)、網(wǎng)絡(luò)、算法等多個要素構(gòu)成的有機整體，人工智能立法應(yīng)著眼于人工智能全生命周期中各要素在“發(fā)展負(fù)責(zé)任人工智能”方面的具體作用，將人工智能立法體例構(gòu)想為“總則篇、數(shù)據(jù)篇、網(wǎng)絡(luò)篇、算法篇和應(yīng)用篇”五篇，每篇均圍繞“發(fā)展負(fù)責(zé)任人工智能”這一立法理念去進(jìn)行相應(yīng)的規(guī)則設(shè)計，以確保人機和諧共存。

中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒表示，在積極參與全球治理方面，新一代人工智能技術(shù)的可持續(xù)發(fā)展不僅是技術(shù)層面的競爭，也是法治軟實力的競爭。我國的人工智能立法，既應(yīng)力求具備前瞻性、先進(jìn)性，立足本土實踐，也應(yīng)具備國際視野，提出人工智能治理的中國方案，在國際競爭中發(fā)出中國聲音。（沈若水）