本刊記者 徐明皎

“AI會(huì)傷害人類嗎?”“AI時(shí)代，我們的生活會(huì)更好還是更壞?”隨著人工智能的快速迭代，類似疑問(wèn)一直盤桓不去。

2022年底，生成式人工智能驚艷問(wèn)世，如何把握人工智能的應(yīng)用邊界和適用場(chǎng)景，顯得更為迫切，因而也備受各界關(guān)注和熱議。通過(guò)法律約束，在促進(jìn)產(chǎn)業(yè)發(fā)展的同時(shí)守住安全邊界，逐漸成為共識(shí)。

目前，“人工智能健康發(fā)展”方面的立法已列入全國(guó)人大常委會(huì)今年的預(yù)備審議項(xiàng)目。不少學(xué)者也開始關(guān)注立法技術(shù)問(wèn)題。

人工智能迭代帶來(lái)挑戰(zhàn)

AI助手、自動(dòng)駕駛、虛擬戀人……人工智能在為社會(huì)經(jīng)濟(jì)發(fā)展賦能、豐富人們精神世界的同時(shí), 也對(duì)現(xiàn)有的法律秩序提出了挑戰(zhàn)。

“人工智能的發(fā)展促進(jìn)了當(dāng)今世界科技進(jìn)步的同時(shí)，也帶來(lái)了很多安全風(fēng)險(xiǎn)，要從技術(shù)與法規(guī)兩方面加以應(yīng)對(duì)?！苯衲?月，中國(guó)工程院院士，中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員、學(xué)術(shù)委員會(huì)主任孫凝暉在十四屆全國(guó)人大常委會(huì)專題講座上表示。

“互聯(lián)網(wǎng)虛假信息泛濫、偽造視頻、偽造新聞、生成不雅圖片等?！睂O凝暉在講座上列舉了多項(xiàng)人工智能帶來(lái)的安全風(fēng)險(xiǎn)。

人工智能帶來(lái)的風(fēng)險(xiǎn)，遠(yuǎn)非以往的技術(shù)革命所能比擬。“過(guò)去的技術(shù)都是工具，而人工智能不再是簡(jiǎn)單的工具，而且滲透到社會(huì)生產(chǎn)和生活的方方面面?！敝袊?guó)科學(xué)技術(shù)大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院教授陳小平曾向本刊記者表示。

有關(guān)人工智能的算法歧視、信息泄露等風(fēng)險(xiǎn)問(wèn)題，學(xué)界已早有關(guān)注。生成式人工智能的出現(xiàn)，將風(fēng)險(xiǎn)問(wèn)題推到了一個(gè)新階段。伴隨著技術(shù)的加速迭代，圖生文不再稀奇，文生圖、圖生視頻已成為現(xiàn)實(shí)，對(duì)人工智能可能帶來(lái)負(fù)面效應(yīng)的恐慌情緒也在加劇。

“處理好風(fēng)險(xiǎn)最有效的辦法，就是對(duì)于人工智能的開發(fā)、實(shí)驗(yàn)、部署提前做好制度安排，進(jìn)行有目標(biāo)、可信任的控制。”在北京航空航天大學(xué)法學(xué)院院長(zhǎng)龍衛(wèi)球教授看來(lái)，人工智能發(fā)展到ChatGPT階段，與歷史上其他技術(shù)迭代比較，其可能帶來(lái)的技術(shù)風(fēng)險(xiǎn)、社會(huì)風(fēng)險(xiǎn)和倫理風(fēng)險(xiǎn)等負(fù)效應(yīng)前所未有，應(yīng)對(duì)也相當(dāng)困難?！胺墒亲钣辛α亢托实霓k法。”龍衛(wèi)球表示。

亟需完善人工智能法律體系

2023年7月，國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合國(guó)家發(fā)展和改革委員會(huì)等部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，成為我國(guó)現(xiàn)階段促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用的主要規(guī)范。

此前，國(guó)家互聯(lián)網(wǎng)信息辦公室等部門于2022年發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)人工智能的應(yīng)用進(jìn)行規(guī)范。

另外，民法典、網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等也在信息和數(shù)據(jù)處理安全方面作出了規(guī)定。

不過(guò)，在不少業(yè)內(nèi)人士看來(lái)，我國(guó)人工智能立法存在非體系化、碎片化問(wèn)題，需要從頂層設(shè)計(jì)的維度進(jìn)一步完善人工智能法律體系?！柏叫杈腿斯ぶ悄芑顒?dòng)制定一部能夠規(guī)制其風(fēng)險(xiǎn)的人工智能法。”龍衛(wèi)球表示。

清華大學(xué)法學(xué)院教授申衛(wèi)星在2024中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展與法治建設(shè)論壇的主旨演講上，曾就人工智能立法問(wèn)題表示，網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法以及三個(gè)部門規(guī)章構(gòu)成了未來(lái)我國(guó)人工智能法出臺(tái)的前提和基礎(chǔ)。

2023年6月，國(guó)務(wù)院辦公廳印發(fā)《國(guó)務(wù)院2023年度立法工作計(jì)劃》，明確提出“預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議人工智能法草案”。今年5月，國(guó)務(wù)院辦公廳印發(fā)《國(guó)務(wù)院2024年度立法工作計(jì)劃》，“人工智能法草案”再次列入預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議項(xiàng)目。

去年年底通過(guò)的《全國(guó)人大常委會(huì)2024年度立法工作計(jì)劃》在預(yù)備審議項(xiàng)目中列明，“網(wǎng)絡(luò)治理和人工智能健康發(fā)展等方面的立法項(xiàng)目”由有關(guān)方面抓緊開展調(diào)研和起草工作，視情安排審議。

立法須兼顧產(chǎn)業(yè)發(fā)展與安全需求

“立法不易，人工智能技術(shù)龐雜、系統(tǒng)復(fù)雜、風(fēng)險(xiǎn)類型多樣?！痹邶埿l(wèi)球看來(lái)，人工智能不同階段特點(diǎn)不同，立法需面對(duì)不同產(chǎn)品服務(wù)或場(chǎng)景應(yīng)用的巨大差異，“需認(rèn)真研究規(guī)律，合理判斷風(fēng)險(xiǎn)點(diǎn)和治理路徑，形成可控規(guī)制體系和策略”。

2023年8月，中國(guó)社會(huì)科學(xué)院發(fā)布《人工智能法示范法1.0(專家建議稿)》(以下簡(jiǎn)稱《專家建議稿》)。今年3月，在“AI善治論壇人工智能法律治理前瞻”專題研討會(huì)上，公布由7家研究機(jī)構(gòu)攜手起草的《中華人民共和國(guó)人工智能法(學(xué)者建議稿)》(以下簡(jiǎn)稱《學(xué)者建議稿》)。

《專家建議稿》《學(xué)者建議稿》都在總則中規(guī)定了安全、公平等原則，用一個(gè)章節(jié)聚焦在人工智能的發(fā)展與促進(jìn)上，同時(shí)還用較大篇幅規(guī)定了人工智能開發(fā)者、提供者的義務(wù)。

《學(xué)者建議稿》起草組專家、中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒撰文表示，我國(guó)身為人工智能產(chǎn)業(yè)中“領(lǐng)先的追趕者”，始終將兼顧發(fā)展與安全作為國(guó)內(nèi)技術(shù)監(jiān)管的核心訴求?！拔覈?guó)人工智能立法的基本邏輯是一方面大力支持產(chǎn)業(yè)發(fā)展，另一方面又要兼顧切實(shí)的安全需求?！彼谖闹斜硎尽?/p>

“將來(lái)是法律、倫理、政策以及技術(shù)標(biāo)準(zhǔn)形成一個(gè)多元共治的局面，才能夠綜合治理人工智能的發(fā)展，使它既能保證安全的情況下，為人類福利服務(wù)?！鄙晷l(wèi)星表示。