加強(qiáng)人工智能發(fā)展的倫理風(fēng)險(xiǎn)研判和防范
隨著以ChatGPT、Sora等大模型為代表的新一代生成式人工智能技術(shù)取得突破性發(fā)展,顛覆性技術(shù)的廣泛應(yīng)用正牽引人類(lèi)社會(huì)發(fā)生深刻變化,當(dāng)前正朝向通用人工智能邁進(jìn)。人工智能技術(shù)的大眾化應(yīng)用在給人們帶來(lái)工作和生活便利的同時(shí),也伴隨著難以預(yù)測(cè)的倫理風(fēng)險(xiǎn)挑戰(zhàn),根據(jù)經(jīng)濟(jì)合作與發(fā)展組織(OECD)發(fā)起組織的人工智能事件監(jiān)測(cè)數(shù)據(jù),僅2023年12月單月,人工智能倫理事件就達(dá)495件,倫理問(wèn)題也反向制約著人工智能的健康發(fā)展。頻發(fā)的倫理風(fēng)險(xiǎn)問(wèn)題引發(fā)了人們對(duì)未來(lái)人工智能技術(shù)是否能夠繼續(xù)堅(jiān)守造福人類(lèi)初心的質(zhì)疑,甚至對(duì)人類(lèi)自身造成威脅的擔(dān)憂。隨著人工智能技術(shù)的快速發(fā)展和大眾化應(yīng)用的不斷普及,倫理問(wèn)題愈加受到重視,建立并完善負(fù)責(zé)任可操作的人工智能倫理治理規(guī)范、準(zhǔn)則和全面監(jiān)管機(jī)制已迫在眉睫。
人工智能倫理治理在遵循發(fā)展和安全并重原則下,按照倫理先行、依法依規(guī)、敏捷治理、立足國(guó)情、開(kāi)放合作的治理要求,形成政府主導(dǎo)、科技創(chuàng)新主體主動(dòng)擔(dān)當(dāng)、科技類(lèi)社會(huì)組織參與的上中下多方協(xié)同共治體系,堅(jiān)持以人為本、公平透明、安全可控,在管理、研發(fā)、供應(yīng)和使用各環(huán)節(jié)形成可信賴(lài)、可追溯、可監(jiān)管的人工智能倫理治理模式。
發(fā)揮有為政府的超前引領(lǐng)作用
政府是社會(huì)治理規(guī)則的制定者,在多元協(xié)同治理體系中處于核心地位,始終發(fā)揮著主導(dǎo)作用。在人工智能倫理風(fēng)險(xiǎn)治理中,政府作為最重要的推動(dòng)力量,同樣發(fā)揮著基礎(chǔ)性“元治理”作用。作為有為政府,應(yīng)在人工智能倫理風(fēng)險(xiǎn)治理中發(fā)揮超前引領(lǐng)作用。
一是建立人工智能倫理風(fēng)險(xiǎn)敏捷治理機(jī)制。在制度設(shè)計(jì)、框架確立、過(guò)程管理等方面強(qiáng)調(diào)系統(tǒng)的動(dòng)態(tài)適配和靈活治理,建立敏捷的反饋系統(tǒng),尤其要加強(qiáng)動(dòng)態(tài)跟蹤、科學(xué)研判、風(fēng)險(xiǎn)預(yù)警和倫理事件應(yīng)急處置。健全人工智能倫理風(fēng)險(xiǎn)等級(jí)評(píng)估體系,細(xì)化分級(jí)分類(lèi)評(píng)估標(biāo)準(zhǔn),做到準(zhǔn)確識(shí)別、精準(zhǔn)評(píng)估,實(shí)施人工智能倫理風(fēng)險(xiǎn)分類(lèi)分級(jí)治理。鼓勵(lì)多元參與和協(xié)同共治,更快速、高效地協(xié)調(diào)各方資源,確保人工智能技術(shù)符合倫理規(guī)范。
二是加強(qiáng)數(shù)據(jù)要素治理。數(shù)據(jù)作為人工智能的“燃料”,是培養(yǎng)和訓(xùn)練模型的關(guān)鍵,用不同的數(shù)據(jù)“投喂”對(duì)人工智能倫理和價(jià)值導(dǎo)向存在很大影響,要在數(shù)據(jù)來(lái)源、數(shù)據(jù)質(zhì)量、數(shù)據(jù)加工、數(shù)據(jù)存儲(chǔ)和數(shù)據(jù)流通等方面,建立數(shù)據(jù)聯(lián)管聯(lián)治機(jī)制,強(qiáng)化行業(yè)協(xié)同監(jiān)管和行業(yè)自律機(jī)制。
三是加強(qiáng)算法倫理治理。算法是人工智能處理和分析數(shù)據(jù)、進(jìn)行決策和推理的核心,應(yīng)堅(jiān)持以人為本,將社會(huì)主義核心價(jià)值觀融入算法決策;堅(jiān)持算法公正,對(duì)算法進(jìn)行嚴(yán)格的測(cè)試和驗(yàn)證,并進(jìn)行算法解釋?zhuān)苊馄?jiàn)和歧視;重視算法智能化發(fā)展,開(kāi)發(fā)弱人工智能代替人類(lèi)監(jiān)督強(qiáng)人工智能,以人工智能算法創(chuàng)新應(yīng)對(duì)人工智能倫理風(fēng)險(xiǎn)。
四是積極發(fā)揮有為政府作用。政府通過(guò)嵌入人工智能技術(shù)過(guò)程超前預(yù)防倫理風(fēng)險(xiǎn),彌補(bǔ)技術(shù)缺陷,避免技術(shù)“過(guò)度承諾”陷阱,通過(guò)“模型審計(jì)”減少“算法黑箱”的倫理風(fēng)險(xiǎn)。與其他治理主體“互嵌”建立高效聯(lián)動(dòng)的治理共同體,通過(guò)行政力量推行全程監(jiān)管由注重“結(jié)果”轉(zhuǎn)向“過(guò)程-結(jié)果”并重。加強(qiáng)數(shù)字法治建設(shè),明確倫理邊界底線。有為政府與有效市場(chǎng)有機(jī)結(jié)合,引導(dǎo)市場(chǎng)健康發(fā)展,不斷完善數(shù)據(jù)要素市場(chǎng)交易信用體系。
發(fā)揮科技創(chuàng)新主體的責(zé)任主體作用
科技創(chuàng)新主體是多元主體協(xié)同治理體系的中堅(jiān)力量,是人工智能倫理治理的重要原生動(dòng)力,承擔(dān)著倫理風(fēng)險(xiǎn)治理的主體責(zé)任,應(yīng)加強(qiáng)人工智能倫理日常管理,主動(dòng)研判并及時(shí)化解本單位人工智能領(lǐng)域存在的倫理風(fēng)險(xiǎn)。
一是推進(jìn)數(shù)字信任建設(shè)。科技創(chuàng)新主體應(yīng)將人工智能融入數(shù)字環(huán)境,開(kāi)發(fā)算法可信的人工智能。構(gòu)建數(shù)字信任的制度框架,強(qiáng)化信息安全外部保障,加大對(duì)數(shù)據(jù)違規(guī)采集的處罰力度,保護(hù)網(wǎng)絡(luò)和信息安全??萍计髽I(yè)可推行“機(jī)器遺忘”,在保留原模型預(yù)測(cè)能力基礎(chǔ)上保障知識(shí)產(chǎn)權(quán)與隱私權(quán),在大模型與人工智能倫理之間做好權(quán)衡。
二是開(kāi)展人工智能倫理風(fēng)險(xiǎn)常態(tài)化培訓(xùn)。將人工智能倫理培訓(xùn)嵌入科技人員入職培訓(xùn),引導(dǎo)科技人員自覺(jué)遵守倫理規(guī)范和底線,按照倫理審查批準(zhǔn)的范圍開(kāi)展負(fù)責(zé)任的人工智能研究與創(chuàng)新。對(duì)科技人員實(shí)施必要激勵(lì),激發(fā)其倫理行為向善。加強(qiáng)科技人員倫理知識(shí)教育,加快培養(yǎng)在人工智能領(lǐng)域懂科技、識(shí)倫理、明治理的綜合性專(zhuān)業(yè)人才。
三是積極發(fā)揮道德企業(yè)家作用。引導(dǎo)道德企業(yè)家通過(guò)觀察、干預(yù)、互動(dòng)建構(gòu)指標(biāo),將道德規(guī)范嵌入人工智能過(guò)程,確??萍既藛T遵守人工智能倫理,引導(dǎo)企業(yè)將人工智能倫理風(fēng)險(xiǎn)治理經(jīng)驗(yàn)向產(chǎn)業(yè)鏈上下游企業(yè)分享,提升科技企業(yè)倫理風(fēng)險(xiǎn)治理能力。在“非層級(jí)化”企業(yè)中建立可制定規(guī)則的科層制,對(duì)人工智能產(chǎn)品全程進(jìn)行道德審查。
四是設(shè)立人工智能專(zhuān)家工作站。鼓勵(lì)科技創(chuàng)新主體引進(jìn)不同學(xué)科、領(lǐng)域的專(zhuān)家,在人工智能倫理風(fēng)險(xiǎn)審查、研發(fā)、人才培養(yǎng)等方面助推科技創(chuàng)新主體發(fā)展,提高對(duì)人工智能風(fēng)險(xiǎn)的前瞻性識(shí)別、評(píng)估、預(yù)防及監(jiān)管。
發(fā)揮科技類(lèi)社會(huì)組織的橋梁紐帶作用
在人工智能倫理多元主體協(xié)同治理體系中,科技類(lèi)社會(huì)組織是連接政府與科技創(chuàng)新主體(高校、企業(yè)及科研機(jī)構(gòu)等)的橋梁和紐帶,發(fā)揮著建平臺(tái)、立標(biāo)準(zhǔn)和組團(tuán)隊(duì)的獨(dú)特作用。
一是加強(qiáng)人工智能倫理治理研究。設(shè)立專(zhuān)門(mén)的人工智能倫理學(xué)會(huì),動(dòng)員智庫(kù)、學(xué)會(huì)、協(xié)會(huì)、社會(huì)團(tuán)體等科技類(lèi)社會(huì)組織和科技人員深入開(kāi)展人工智能倫理治理理論研究,加強(qiáng)人工智能倫理的前瞻性課題研究,并積極參與國(guó)際人工智能倫理重大議題研討和規(guī)則制定。
二是搭建人工智能倫理治理交流平臺(tái)。通過(guò)組織學(xué)術(shù)會(huì)議、人才論壇、座談交流、政策宣講等形式加強(qiáng)人工智能前沿信息交流,研判人工智能研發(fā)和運(yùn)用過(guò)程中的倫理風(fēng)險(xiǎn),謀劃人工智能倫理治理對(duì)策,為創(chuàng)新人工智能倫理治理提供學(xué)術(shù)支撐。推動(dòng)行業(yè)平臺(tái)促進(jìn)人工智能倫理風(fēng)險(xiǎn)治理合作,形成行業(yè)倫理風(fēng)險(xiǎn)治理的實(shí)踐指南。
三是建立人工智能倫理治理規(guī)范和審查監(jiān)管制度。明確人工智能倫理要求,制定并完善人工智能倫理治理規(guī)范、標(biāo)準(zhǔn)和指南,引導(dǎo)科技人員合理開(kāi)展人工智能活動(dòng)。設(shè)立人工智能倫理審查委員會(huì),完善人工智能倫理審查、風(fēng)險(xiǎn)處置、違規(guī)處理機(jī)制,健全對(duì)人工智能研發(fā)、應(yīng)用活動(dòng)的倫理監(jiān)管審查機(jī)制,對(duì)違反倫理要求的團(tuán)隊(duì)和個(gè)人應(yīng)予以問(wèn)責(zé)。
四是加強(qiáng)人工智能倫理教育宣傳。通過(guò)多種途徑和形式普及人工智能倫理知識(shí),推動(dòng)人工智能倫理治理知識(shí)傳播,引導(dǎo)科技人員和社會(huì)公眾主動(dòng)學(xué)習(xí)人工智能倫理知識(shí),增強(qiáng)人工智能倫理意識(shí),自覺(jué)踐行人工智能倫理原則,堅(jiān)守人工智能倫理底線。引導(dǎo)媒體提升人工智能倫理素養(yǎng),科學(xué)識(shí)別人工智能倫理風(fēng)險(xiǎn),積極發(fā)揮輿論監(jiān)督功能。通過(guò)必修課、選修課、通識(shí)課等形式,開(kāi)設(shè)面向高校學(xué)生的人工智能倫理教育課程。
發(fā)揮中國(guó)在全球治理中的示范推動(dòng)作用
人工智能技術(shù)具有全球性,人工智能倫理風(fēng)險(xiǎn)治理是世界各國(guó)共同關(guān)心和面臨的問(wèn)題。我國(guó)應(yīng)積極參與全球人工智能治理,推動(dòng)人工智能倫理治理全球共同體建設(shè)。
一是為全球人工智能倫理治理貢獻(xiàn)中國(guó)方案。在維護(hù)人類(lèi)福祉、堅(jiān)守公平正義方面體現(xiàn)我國(guó)的責(zé)任擔(dān)當(dāng),就全球普遍關(guān)切的人工智能倫理風(fēng)險(xiǎn)治理問(wèn)題給出建設(shè)性建議,為人工智能倫理風(fēng)險(xiǎn)治理相關(guān)國(guó)際討論和規(guī)則制定提供參考藍(lán)本,為解決全球人工智能倫理治理難題貢獻(xiàn)中國(guó)智慧和方案。
二是積極參與人工智能?chē)?guó)際法律和標(biāo)準(zhǔn)制定。在尊重各國(guó)政策和國(guó)情差異性前提下,參與人工智能倫理風(fēng)險(xiǎn)治理國(guó)際法律和標(biāo)準(zhǔn)研制,推動(dòng)形成具有廣泛共識(shí)的全球人工智能倫理風(fēng)險(xiǎn)治理框架和標(biāo)準(zhǔn)規(guī)范,制定“全球數(shù)字契約”。
三是積極參與國(guó)際人工智能倫理治理交流與合作。加強(qiáng)與國(guó)(境)外組織研討人工智能倫理風(fēng)險(xiǎn)治理議題,掌握世界人工智能倫理治理最新趨勢(shì),推動(dòng)形成全球人工智能倫理風(fēng)險(xiǎn)治理的良好合作生態(tài)。對(duì)外交流中堅(jiān)決反對(duì)以意識(shí)形態(tài)劃線惡意阻撓我國(guó)人工智能產(chǎn)業(yè)正常發(fā)展,反對(duì)利用技術(shù)壟斷制造人工智能發(fā)展壁壘,惡意阻斷我國(guó)人工智能供應(yīng)鏈穩(wěn)定暢通。
人工智能倫理治理需多方主體共同努力,將科技創(chuàng)新與倫理風(fēng)險(xiǎn)治理相結(jié)合,才能構(gòu)建開(kāi)放、包容、安全、可持續(xù)的人工智能倫理治理體系,推動(dòng)人工智能造福社會(huì)。( 廣東財(cái)經(jīng)大學(xué)工商管理學(xué)院、公共管理學(xué)院 宋信強(qiáng) 馬創(chuàng)杰)
編輯:遲明緒