法治日報(bào)記者 吳瓊

伴隨著人工智能發(fā)展突飛猛進(jìn)，與這一行業(yè)相關(guān)的倫理和法律問題逐漸涌現(xiàn)。近日，來自美國開放人工智能研究中心(OpenAI)和谷歌旗下人工智能公司“深層思維”（DeepMind）的13名現(xiàn)任及離職員工成為揭露這一行業(yè)內(nèi)幕的“吹哨人”。在OpenAI前工程師丹尼爾·齊格勒和前員工丹尼爾·科科塔耶羅牽頭下，上述13人發(fā)表聯(lián)名公開信，警示人工智能企業(yè)及整個(gè)行業(yè)缺乏有效監(jiān)管，人工智能行業(yè)的“吹哨人”缺乏法律保護(hù)，這一行業(yè)在這樣的境況下快速發(fā)展存在多重風(fēng)險(xiǎn)，令人擔(dān)憂。

“吹哨人”揭露行業(yè)內(nèi)幕

據(jù)多家外媒報(bào)道，這封公開信刊載在righttowarn.ai網(wǎng)站上，標(biāo)題為“對先進(jìn)人工智能發(fā)出警告的權(quán)利”，呼吁對人工智能行業(yè)進(jìn)行全面改革，包括加強(qiáng)監(jiān)管和保護(hù)“吹哨人”。

“人工智能技術(shù)有潛力為人類帶來前所未有的福祉，與此同時(shí)這些技術(shù)也帶來嚴(yán)峻挑戰(zhàn)，全球各國政府、人工智能專家及人工智能企業(yè)都已意識到了這些風(fēng)險(xiǎn)?！惫_信指出，人工智能企業(yè)監(jiān)管缺失，然而受利益驅(qū)使，這類企業(yè)極力避免接受有效監(jiān)管，而目前的企業(yè)治理架構(gòu)也不足以改變現(xiàn)狀。

“吹哨人”還在信件中充滿擔(dān)憂地指出，不受監(jiān)管的人工智能會(huì)導(dǎo)致虛假信息傳播、人工智能系統(tǒng)喪失獨(dú)立性、社會(huì)階層不平等深化等多重風(fēng)險(xiǎn)。

與此同時(shí)，人工智能行業(yè)“吹哨人”缺乏法律保護(hù)。而且，受保密協(xié)議所限，人工智能企業(yè)員工往往無法對外實(shí)質(zhì)性披露所在企業(yè)實(shí)際掌握的人工智能實(shí)力。

為此，聯(lián)名公開信要求OpenAI及所有人工智能企業(yè)都不得簽訂或執(zhí)行避免批評人工智能風(fēng)險(xiǎn)的保密協(xié)議，不能通過損害“吹哨人”的既得經(jīng)濟(jì)利益來打擊報(bào)復(fù)，而且要為現(xiàn)任和前任員工提供“可驗(yàn)證的匿名流程”，以便其向公司董事會(huì)、監(jiān)管機(jī)構(gòu)和具有相關(guān)專業(yè)知識的獨(dú)立組織提出與人工智能風(fēng)險(xiǎn)相關(guān)的擔(dān)憂，前提是“吹哨人”需要對公司的商業(yè)機(jī)密和其他知識產(chǎn)權(quán)利益進(jìn)行適當(dāng)保護(hù)。

據(jù)了解，被譽(yù)為“人工智能教父”的杰弗里·辛頓、因開創(chuàng)性人工智能研究獲得圖靈獎(jiǎng)的約書亞·本吉奧以及人工智能安全領(lǐng)域知名學(xué)者斯圖爾特·羅素都為這封聯(lián)名公開信做了背書。

OpenAI回應(yīng)并未平息爭議

隨著人工智能技術(shù)的快速發(fā)展，各類與此息息相關(guān)的倫理和法律問題如雨后春筍般涌現(xiàn)。

加拿大全球新聞網(wǎng)近日報(bào)道稱，一份來自加拿大魁北克人工智能研究所的最新報(bào)告指出，人工智能可能呈現(xiàn)各種各樣的發(fā)展軌跡，囊括非常積極和非常消極的結(jié)果，包括人工智能可能通過虛假信息、欺詐以及網(wǎng)絡(luò)攻擊造成傷害，甚至人類可能失去對人工智能的控制。

不少美國媒體還曾擔(dān)憂，OpenAI的ChatGPT和Dall·E（美國圖像生成系統(tǒng)。由OpenAI于2021年1月推出）可能被用于通過虛假新聞報(bào)道以及由計(jì)算機(jī)生成的圖像和視頻來操縱選民。

正因如此，公開信的發(fā)布，不僅在人工智能行業(yè)引發(fā)震蕩，還引起全球范圍廣泛關(guān)注。

6月4日，即公開信發(fā)布當(dāng)天，OpenAI迅速作出回應(yīng)，聲稱已設(shè)立匿名舉報(bào)熱線及安全委員會(huì)，以保護(hù)人工智能行業(yè)的“吹哨人”，相信“能以科學(xué)方法應(yīng)對風(fēng)險(xiǎn)”。

不過，這一表態(tài)并未平息外界的爭議及擔(dān)憂。即便在OpenAI內(nèi)部，與此相關(guān)的不同意見也還在持續(xù)。

實(shí)際上，早在上個(gè)月，因不滿忽視潛在風(fēng)險(xiǎn)和問題，OpenAI就出現(xiàn)內(nèi)部動(dòng)蕩，核心安全團(tuán)隊(duì)解散。

5月14日，OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家伊利亞·蘇茨克韋爾宣布離職。有報(bào)道援引消息人士的話稱，OpenAI內(nèi)部注重人工智能系統(tǒng)安全的員工已經(jīng)對首席執(zhí)行官薩姆·奧爾特曼的領(lǐng)導(dǎo)失去信心；5月15日，OpenAI原核心安全團(tuán)隊(duì)“超級對齊”負(fù)責(zé)人楊·萊克在社交網(wǎng)絡(luò)發(fā)文，宣布他本人已辭職，此后這一團(tuán)隊(duì)的其他多名核心成員陸續(xù)離職，團(tuán)隊(duì)就此解散。楊·萊克5月17日還在推文中怒斥OpenAI“在追求華而不實(shí)的產(chǎn)品”，質(zhì)疑OpenAI“不再關(guān)心安全”。他表示，過去幾年，安全文化和流程已經(jīng)讓位于“閃耀的產(chǎn)品”。這也是OpenAI高管級別的人物首次公開承認(rèn)公司重視產(chǎn)品開發(fā)勝過安全。

彌補(bǔ)監(jiān)管缺失迫在眉睫

分析人士指出，13位“吹哨人”聯(lián)名的公開信警示人工智能監(jiān)管缺失風(fēng)險(xiǎn)，給各國政府和立法機(jī)構(gòu)敲響了警鐘：僅僅依靠行業(yè)自律顯然無法解決人工智能快速發(fā)展的同時(shí)觸發(fā)的多重風(fēng)險(xiǎn)。

為推動(dòng)全球人工智能產(chǎn)業(yè)健康有序發(fā)展，不少專家建議，各國政府應(yīng)該盡快推進(jìn)人工智能法的制定和出臺(tái)，以人工智能法及配套的監(jiān)管工具為核心，形成完整的人工智能技術(shù)法律體系。

近幾年來，歐盟、美國等全球多個(gè)國家和地區(qū)，都出臺(tái)了一系列人工智能監(jiān)管法律法規(guī)，主要涉及隱私保護(hù)、數(shù)據(jù)安全、算法反歧視等方面。然而，人工智能監(jiān)管仍然存在法律空白，且目前的監(jiān)管法律也需要隨著人工智能行業(yè)的發(fā)展與時(shí)俱進(jìn)。

值得一提的是，充分認(rèn)識人工智能帶來的風(fēng)險(xiǎn)，還需要各國政府、立法機(jī)構(gòu)與科技界、產(chǎn)業(yè)界緊密合作，后者向前者坦誠介紹人工智能的發(fā)展?fàn)顩r和風(fēng)險(xiǎn)，幫助其了解和理解，進(jìn)而制定規(guī)范，調(diào)動(dòng)資源，有效監(jiān)管，如此才談得上有效控制風(fēng)險(xiǎn)。

正如曾領(lǐng)導(dǎo)創(chuàng)建聯(lián)合國人工智能和機(jī)器人中心的人工智能專家伊萊克利·伯利茲所言：“我們要全方面地了解人工智能。有效監(jiān)管的目的就是要讓國際社會(huì)以及社區(qū)中的每一個(gè)人都能夠享受到這種技術(shù)帶來的好處，并想辦法規(guī)避它的風(fēng)險(xiǎn)?！?nbsp;

公開信的牽頭人之一丹尼爾·齊格勒近日也指出，他們發(fā)表這一公開信的目的并非為了指責(zé)OpenAI等人工智能企業(yè)，而是希望借此機(jī)會(huì)讓全部人工智能前沿企業(yè)切實(shí)投入，強(qiáng)化監(jiān)管、增加透明度，增進(jìn)公眾信任。