編者按：2022年，多個人工智能應用“出圈”，并大有取代部分人類智力工作的趨勢。人工智能技術的快速發(fā)展，既令人驚嘆，又帶來不少焦慮。技術的快速發(fā)展讓人工智能相關的法律問題以及倫理治理顯得格外緊迫。本刊推出一組報道供參考。

本刊記者 徐明皎

最近一段時間，AI繪畫程序Midjourney、AI聊天程序ChatGPT等人工智能應用火爆出圈，其輸出的圖像和文本驚艷了很多使用者。人工智能開始挑戰(zhàn)被人類視為獨有的特權——創(chuàng)造力。

人工智能是否會失控？人類是否會被取代？以往出現(xiàn)在科幻電影中的場景開始成為很多人的真實關切，人工智能倫理治理也愈加凸顯其重要性。

倫理挑戰(zhàn)前所未有

近日，我國外交部在《中國關于加強人工智能倫理治理的立場文件》中指出，“人工智能作為最具代表性的顛覆性技術，在給人類社會帶來潛在巨大發(fā)展紅利的同時，其不確定性可能帶來許多全球性挑戰(zhàn)，甚至引發(fā)根本性的倫理關切”。

中國科技大學教授陳小平將人工智能倫理治理稱為“一種新型問題”。他在接受本刊記者采訪時表示，人工智能與以往科技最大的不同在于，“過去的技術都是工具，而人工智能不再是簡單的工具，而且滲透到社會生產(chǎn)和生活的方方面面”。

哈爾濱工程大學教授莫宏偉在談論該問題時表示，人工智能是智能型工具，當這種智能性與人類智能某方面相似甚至超越人類時，就會對人類社會的傳統(tǒng)倫理關系造成影響和沖擊。

“如果一種人工智能的持續(xù)存在和未來發(fā)展方向完全不在人類的控制之下，那么這種人工智能就是不可控的?！标愋∑奖硎?。

不過，令人略感欣慰的是，現(xiàn)有人工智能還處在無自主意識的弱人工智能階段，都是可控的。出現(xiàn)不可控人工智能的可能性目前還僅存在理論中。

陳小平還提到了人工智能的一種現(xiàn)實挑戰(zhàn)，“人工智能技術越來越多，人類的工作崗位就會越來越少”。直到最后大多數(shù)工作崗位都被人工智能取代?！皩τ谶@種情況的后果，人類遠遠沒有想清楚，貿(mào)然讓它發(fā)生，就是一種重大風險?！?/p>

即便是在弱人工智能時代，因技術引發(fā)的倫理問題也層出不窮，如數(shù)據(jù)泄露和隱私侵犯、信息偽造和內(nèi)容造假、算法歧視和算法獨裁等問題。

倫理規(guī)范具有先導作用

在人工智能的倫理治理方面，我國已在規(guī)范層面作出了不少探索。

陳小平將用戶隱私、數(shù)據(jù)安全、算法公平性和透明性等問題看作具有現(xiàn)實緊迫性，也是較易解決的問題。

2021 年頒布的《中華人民共和國個人信息保護法》《中華人民共和國數(shù)據(jù)安全法》《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》已將網(wǎng)絡空間管理、數(shù)據(jù)保護、算法安全綜合治理作為主要監(jiān)管目標。

2021年底修訂的科學技術進步法，其一大亮點就是將科技倫理治理入法，在科技倫理治理體系、科技倫理委員會、科技倫理審查等方面都作出了明確規(guī)定。

有研究者指出，人工智能技術尚處于快速發(fā)展階段，倉促立法不利于法律條文的穩(wěn)定性，還可能限制新技術的發(fā)展。在此情況下，通過行政文件和行業(yè)規(guī)范治理成為可行路徑。

北京郵電大學經(jīng)濟管理學院教授金永生表示，制定完備的法律需要反復論證，倫理規(guī)范對于人工智能問題的調(diào)整具有先導作用，即后續(xù)倫理規(guī)范可以轉(zhuǎn)化為具體法律，實現(xiàn)道德的法律化。

2019年初，科技部成立新一代人工智能治理專業(yè)委員會。其在2019年6月發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》。2021年9月發(fā)布《新一代人工智能倫理規(guī)范》，作為人工智能倫理治理的頂級設計指導，提出人工智能各類活動應遵循的六項基本倫理規(guī)范。

今年3月20日，國務院辦公廳發(fā)布《關于加強科技倫理治理的指導意見》。據(jù)了解，該意見是我國國家層面首個有關科技倫理治理的指導性文件，就科技倫理的總體要求、原則、治理體制、制度保障以及審查和監(jiān)管、深入開展科技倫理和宣傳等均進行了全面的指導性規(guī)定。

構建人工智能治理框架

在陳小平看來，“最大的挑戰(zhàn)是‘未來挑戰(zhàn)’”，也即中國能不能抓住人工智能這一歷史機遇。但他同時強調(diào)，不能只考慮經(jīng)濟因素，要從增進人類福祉的基本原則出發(fā)，綜合考慮各方面因素，統(tǒng)籌協(xié)調(diào)人工智能的發(fā)展?！缎乱淮斯ぶ悄軅惱硪?guī)范》將“增進人類福祉”作為第一項基本倫理規(guī)范。

對于多數(shù)工作崗位將被人工智能取代的風險，陳小平認為，現(xiàn)有預測能力嚴重不足，預測方法也不適應新形勢的需要。有必要建立一種風險與機遇一體化的預測能力，對人工智能的正面效應和負面效應等進行一體化預測。

“我國人工智能治理整體框架已構建完成，進行細節(jié)填充已成未來趨勢?！苯鹩郎磉_了更為樂觀的態(tài)度。他認為，雖然有部分案例顯示人工智能有失控風險，但其不具有廣泛代表性，利用法律規(guī)則并配合可落地的倫理標準即可有效保障技術發(fā)展規(guī)范。

金永生建議，對部分法律作出解釋，比如數(shù)據(jù)安全法提出建立數(shù)據(jù)安全風險評估制度，但具體的主管機構、適用范圍、評估審查機制等配套制度仍需明確。他還建議對自動駕駛、機器人民事責任能力等問題及時出臺法律規(guī)范。