法治日報記者 王衛(wèi)

3月17日，法國經(jīng)濟(jì)部長勒梅爾表示，應(yīng)該建立“歐盟人工智能共同體”，以便更好地協(xié)調(diào)歐盟各國資源，在人工智能領(lǐng)域?qū)崿F(xiàn)創(chuàng)新。此前的3月13日，歐洲議會全體會議通過《人工智能法案》，標(biāo)志著歐盟掃清了立法監(jiān)管人工智能的最后障礙。歐洲媒體預(yù)測，法案或?qū)⒂?月29日獲歐盟理事會最終通過，預(yù)計6月生效。

將人工智能系統(tǒng)分為四類

據(jù)報道，在法國斯特拉斯堡舉行的歐洲議會全體會議上，歐洲議會正式投票通過并批準(zhǔn)歐盟《人工智能法案》。這也是全球首部人工智能法案。

法案對人工智能系統(tǒng)的定義和適用范圍進(jìn)行了明確界定。人工智能系統(tǒng)是“一種基于機(jī)器的系統(tǒng)，設(shè)計為以不同程度的自主性運行，在部署后可能表現(xiàn)出適應(yīng)性，并且為了明確或隱含的目標(biāo)，從其接收的輸入中推斷如何生成可影響物理或虛擬環(huán)境的輸出，如預(yù)測、內(nèi)容、建議或決定”。

法案的適用范圍較為廣泛，即便企業(yè)是歐盟范圍外人工智能技術(shù)的供應(yīng)商，但使用其人工智能技術(shù)的產(chǎn)品或提供服務(wù)在歐盟范圍內(nèi)，也需要適用法案的相關(guān)規(guī)定。

法案的主要內(nèi)容將人工智能系統(tǒng)根據(jù)風(fēng)險評估分為四類，包括不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險與最小風(fēng)險。對于不同風(fēng)險等級，法案采取了不同程度的監(jiān)管措施。對于不可接受風(fēng)險的人工智能，法案嚴(yán)厲禁止，并對違反者最高處以上一財年全球營業(yè)額7%或3500萬歐元的罰款；對于高風(fēng)險的人工智能，法案規(guī)定了一套完整的全流程風(fēng)險管理措施；對于有限風(fēng)險的人工智能，法案要求履行公開透明義務(wù)；對于最小風(fēng)險的人工智能，法案不作干預(yù)。其中，針對高風(fēng)險類別，法案規(guī)定了從人工智能上市前到上市后的全流程風(fēng)險管理措施。

人工智能系統(tǒng)的定義與法案適用范圍的明確，對于確保法案的有效實施至關(guān)重要。這有助于避免監(jiān)管盲區(qū)，確保所有涉及人工智能的活動都受到法律制約。同時，也為相關(guān)企業(yè)和研究機(jī)構(gòu)提供明確指導(dǎo)，推動人工智能領(lǐng)域的合規(guī)發(fā)展。

知情人士稱，在歐盟內(nèi)部，這部《人工智能法案》實際上是要推動歐盟在人工智能方面形成統(tǒng)一的規(guī)則與開發(fā)方向。同時，法案也試圖對當(dāng)前正在出現(xiàn)的一些新型的智能工具，比如人工生成式智能工具，進(jìn)行規(guī)范和監(jiān)管。

如何監(jiān)管生成式AI成焦點

《人工智能法案》草案最早由歐盟委員會在2021年4月提出，經(jīng)過多輪修訂和討論，法案最終獲批。作為通用人工智能模型的典型范例，ChatGPT這類生成式人工智能將受到怎樣的監(jiān)管成為關(guān)注的焦點。

在歐洲議會通過的法案版本中，僅明確提及“生成式模型”兩次，這些系統(tǒng)被納入所謂的“通用人工智能模型”。根據(jù)這些模型是否存在“系統(tǒng)性風(fēng)險”，它們可能會受到不同監(jiān)管。在最初公布的立法草案中，并未對“通用人工智能模型”進(jìn)行規(guī)定，在立法討論過程中，歐盟立法者增加了對其的界定和法律規(guī)制方式，采用了一種層加式的風(fēng)險分類方法，將“通用人工智能模型”分為開發(fā)許可型、標(biāo)準(zhǔn)型和系統(tǒng)性風(fēng)險型，分別對應(yīng)低、中、高三類風(fēng)險類型。

浙江大學(xué)光華法學(xué)院博士研究生劉子婧在接受《法治日報》記者采訪時稱，相比專用人工智能系統(tǒng)而言，生成式人工智能系統(tǒng)具備兩個重要特征：一是可以執(zhí)行不特定任務(wù)，二是具有龐大的數(shù)據(jù)訓(xùn)練量。這就與歐盟委員會最初公布立法草案時旨在規(guī)范的人工智能系統(tǒng)相區(qū)別。首先，生成式人工智能系統(tǒng)并非為了特定語境或者使用條件而建立的，而是具有開放性和易控制性，可以被應(yīng)用于更廣泛的使用場景之中，執(zhí)行不特定任務(wù)。并且，生成式人工智能系統(tǒng)能夠輸出可以被一般人所理解的內(nèi)容，例如文本、音頻或視頻，極大地降低了用戶的使用門檻。其次，生成式人工智能系統(tǒng)在訓(xùn)練時使用的數(shù)據(jù)規(guī)模之大，遠(yuǎn)超專用人工智能系統(tǒng)。例如，僅ChatGPT就有海量的訓(xùn)練數(shù)據(jù)量，訓(xùn)練數(shù)據(jù)的范圍涵蓋了互聯(lián)網(wǎng)中的各類內(nèi)容，從個人數(shù)據(jù)到公共文件，從新聞報道到文學(xué)、藝術(shù)等等。

生成式人工智能系統(tǒng)的這些特征，挑戰(zhàn)了《人工智能法案》所采取的“基于風(fēng)險”的監(jiān)管路徑。因為，對生成式人工智能而言，風(fēng)險將取決于終端用戶使用系統(tǒng)的方式，而非由系統(tǒng)供應(yīng)商預(yù)先決定，使得基于預(yù)設(shè)用途進(jìn)行風(fēng)險分類的方式將面臨失效。

對此，有學(xué)者指出，需要調(diào)整《人工智能法案》以更好地適應(yīng)生成式人工智能系統(tǒng)中與不具有預(yù)設(shè)目的、多用途使用情景和大規(guī)模攫取訓(xùn)練數(shù)據(jù)相關(guān)的風(fēng)險。根據(jù)生成式人工智能系統(tǒng)的特點對法案規(guī)定的義務(wù)進(jìn)行嚴(yán)格審視和重新校準(zhǔn)，充分考慮這些義務(wù)如何適用于不同角色（供應(yīng)商、專業(yè)用戶和終端用戶）間的復(fù)雜互動關(guān)系。

歐盟《人工智能法案》也提出了一些比較尖銳的問題。比如對于人工智能領(lǐng)域的應(yīng)用，究竟在什么范圍內(nèi)既符合科學(xué)、經(jīng)濟(jì)以及社會的發(fā)展，同時又對人的基本權(quán)利予以保護(hù)。尤其是對人類的一些基本生物特征進(jìn)行抓取、運用，多大程度上違反了所謂的基本原則和價值觀。

立法過程存在不同聲音

法律界人士指出，盡管法案中許多條款的正式適用要等到2026年，但對法案中最重要的幾個部分，譬如針對高風(fēng)險系統(tǒng)的合規(guī)規(guī)則，包括風(fēng)險管理系統(tǒng)、風(fēng)險合格評定等比較重要的條款，可以說合規(guī)博弈已經(jīng)在路上。

在歐盟乃至全球范圍內(nèi)，對于歐盟《人工智能法案》一直存在不同聲音。法、德等國政府曾覺得人工智能監(jiān)管規(guī)則過嚴(yán)，認(rèn)為可能會傷害歐洲初創(chuàng)企業(yè)。

歐洲科技行業(yè)組織“數(shù)字歐洲”總干事博內(nèi)費爾德—達(dá)爾曾不無擔(dān)憂地表示：“我們將為法案付出代價，這意味著我們需要投入更多研究對抗人工智能使用風(fēng)險的方法，而不是投入技術(shù)本身?！?/p>

也有觀點認(rèn)為，盡管在立法過程中充滿爭議，但法案為全球范圍內(nèi)的人工智能治理樹立了一個樣本，值得各國借鑒和學(xué)習(xí)。全球頂級律師事務(wù)所之一普盈合伙人、人工智能專家史蒂文·弗姆談及法案時說：“這是一個非常全面的框架。當(dāng)其他國家尋求制定類似措施時，歐盟可能會享有先發(fā)優(yōu)勢。”

除歐盟外，部分國家及國際組織也在嘗試保障人工智能創(chuàng)新與安全的平衡?！度斯ぶ悄芊ò浮纷罱K文本的確認(rèn)將會加速全球各國的人工智能監(jiān)管立法。

國際社會認(rèn)為，人工智能應(yīng)是以人為本的技術(shù)。人工智能應(yīng)作為人類的工具，最終目的是提高人類福祉。歐盟在人工智能監(jiān)管方面所采取的措施，體現(xiàn)了其對于科技倫理的深刻認(rèn)識。隨著人工智能技術(shù)對生活的滲透越來越強，未來將有越來越多的國家和地區(qū)制定與人工智能監(jiān)管或治理相關(guān)的法律法規(guī)，人工智能立法勢必全面提速。