2024世界人工智能大會(huì)：“善治”共識(shí)期待“善智”回音
AI換臉越發(fā)逼真，大模型一本正經(jīng)胡說八道也難辨真假，新技術(shù)帶來生產(chǎn)效能的提升卻也帶來無法忽視的就業(yè)沖擊……伴隨人工智能以越來越快的速度為人類生活與生產(chǎn)方式帶來創(chuàng)新和益處，其安全風(fēng)險(xiǎn)也越來越被頻繁提起。“以共商促共享 以善治促善智”是2024世界人工智能大會(huì)的主題，這兩天的各場(chǎng)論壇上，無論是科學(xué)家、研究者還是政策制定者、企業(yè)家都發(fā)出了呼聲。這些聲音，帶著相似的隱憂，傳遞著“善治”的共識(shí)，匯集在一起，形成了“共商”的共振，期待著“善智”的回音。
治理之“變”
“與傳統(tǒng)技術(shù)革命不同，人工智能帶來的治理沖擊具有特殊性?！鄙虾＝煌ù髮W(xué)國際與公共事務(wù)學(xué)院長聘副教授賈開解釋，人工智能引致影響的速度可能遠(yuǎn)快于傳統(tǒng)技術(shù)革命，這在很大程度上緣于人工智能技術(shù)與整個(gè)社會(huì)數(shù)字化轉(zhuǎn)型進(jìn)程的互促效應(yīng)，技術(shù)迭代速度快，其嵌入社會(huì)、影響社會(huì)的過程也極大縮短；人工智能產(chǎn)生影響的結(jié)果可能迥異于傳統(tǒng)技術(shù)革命，就業(yè)替代效應(yīng)或?qū)⒋笥诰蜆I(yè)創(chuàng)造效應(yīng)；此外，人工智能產(chǎn)生影響的領(lǐng)域與機(jī)制可能是高度不確定的，“盡管我們大致能框定人工智能安全風(fēng)險(xiǎn)類型，但風(fēng)險(xiǎn)產(chǎn)生的時(shí)間地點(diǎn)、對(duì)象范圍、因果過程等都是未知的，甚至不能被提前預(yù)知?！?/p>
“人工智能技術(shù)和應(yīng)用的不確定性與復(fù)雜性，使得從業(yè)者和監(jiān)管者不得不面臨‘共同無知’，治理問題的界定與治理方案的探索始終處于動(dòng)態(tài)變化之中，”清華大學(xué)文科資深教授、蘇世民書院院長薛瀾更是冷靜地強(qiáng)調(diào)了人工智能治理的新挑戰(zhàn)，“同時(shí)，治理主體在文化、倫理、價(jià)值觀等各個(gè)維度都存在較大異質(zhì)性，風(fēng)險(xiǎn)偏好的差異使得達(dá)成治理共識(shí)較為困難；治理與發(fā)展要求同步演化，以避免出現(xiàn)‘監(jiān)管洼地’，但治理更新的速度卻往往落后于技術(shù)創(chuàng)新和應(yīng)用步伐?！?/p>
清華大學(xué)公共管理學(xué)院長聘副教授趙靜也觀察到AI治理議題正快速變化，她認(rèn)為這與人工智能技術(shù)本身的快速成長性和應(yīng)用不確定性密切相關(guān)，尤其是隨著人工智能技術(shù)在經(jīng)濟(jì)社會(huì)中的全面應(yīng)用提速，除了對(duì)各類潛在風(fēng)險(xiǎn)的關(guān)注外，技術(shù)發(fā)展和應(yīng)用對(duì)人類普遍生存的安全影響被提上日程?！艾F(xiàn)在大家更關(guān)心如何構(gòu)建一個(gè)安全可信的人工智能發(fā)展框架、基礎(chǔ)理論、治理思路，從而應(yīng)對(duì)和解決前沿人工智能發(fā)展背后的基本安全問題?！?/p>
應(yīng)變之策
阿里研究院執(zhí)行院長袁媛認(rèn)為，正是因?yàn)檫@種相似境遇，科學(xué)家、企業(yè)、政府形成了一種自覺的共識(shí)，逐漸形成了磨合共治的協(xié)作模式，大家共同面對(duì)問題，合作形成公共知識(shí)，再各自改善。
這種共識(shí)并非與生俱來。袁媛提到，在電商時(shí)代應(yīng)用判別式人工智能技術(shù)時(shí)，無論平臺(tái)、商家、用戶、社會(huì)都需要安全交易，需要建立“生態(tài)信賴”，阿里巴巴就認(rèn)識(shí)到用算法參與治理的重要性，從企業(yè)內(nèi)部啟動(dòng)了治理進(jìn)程?！澳撬闶侵卫沓跗?，市場(chǎng)上的企業(yè)沒有太多共識(shí)，治理模式也相對(duì)簡單，企業(yè)處于‘被規(guī)制’的角色。而現(xiàn)在，隨著公眾認(rèn)知提升，產(chǎn)業(yè)接受度提高、政府期待日漸成熟，各方將逐漸對(duì)‘善智’形成更為健全的共識(shí)?！?/p>
升級(jí)治理模式并非易事。上海國際問題研究院研究員、網(wǎng)絡(luò)空間國際治理研究中心秘書長魯傳穎表示，20世紀(jì)80年代美國學(xué)者曾提出科林格里奇困境——政策制定者面對(duì)快速發(fā)展的技術(shù)存在“太早治理因噎廢食，太晚治理脫韁失控”的困境，“所以建立溝通模式，尋找恰到好處的時(shí)機(jī)，以敏捷治理等最小成本最大收益的方式開展良好治理是很重要的，目前中國正在尋找好的模式、機(jī)制、節(jié)點(diǎn)。”
賈開也認(rèn)為，人工智能治理不能遵循傳統(tǒng)技術(shù)治理范式按照預(yù)先確定規(guī)則來加以管控，而更加需要依賴政、產(chǎn)、學(xué)、研的共同探索，并在此過程中積累治理知識(shí)、能力、資源。此次會(huì)上，上海交大聯(lián)合、徐匯區(qū)政府及研究機(jī)構(gòu)、媒體等21家單位共同發(fā)起“西岸對(duì)話：人工智能安全與治理對(duì)話網(wǎng)絡(luò)”，旨在打破壁壘，在共商共建共治過程中共同探索、共同進(jìn)步，通過對(duì)話機(jī)制、建設(shè)平臺(tái)渠道、素養(yǎng)提升等常態(tài)工作，促進(jìn)各方在人工智能安全與治理領(lǐng)域的緊密合作，以期在快速發(fā)展的人工智能時(shí)代中更好地統(tǒng)籌發(fā)展與安全。賈開認(rèn)為類似“西岸對(duì)話”的共商共建共治機(jī)制才能實(shí)現(xiàn)AI治理升級(jí)的價(jià)值，“在單獨(dú)一方都不知道人工智能治理風(fēng)險(xiǎn)內(nèi)涵及其應(yīng)對(duì)機(jī)制的前提下，只有保持開放對(duì)話的治理關(guān)系，才可能形成科學(xué)共識(shí)、找到合適的治理方法。”
中國呼聲
人工智能治理是全球議題，當(dāng)前國際社會(huì)對(duì)人工智能治理既有建立實(shí)體多邊監(jiān)管的聯(lián)合國模式，也有部分歐美國家開展的小范圍聯(lián)盟式治理探索。魯傳穎認(rèn)為，這場(chǎng)實(shí)踐中，中國正全方位積極參與人工智能國際治理，并設(shè)計(jì)了一條不同于西方國家的治理思路。去年中國政府發(fā)布《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理闡述人工智能治理中國方案。魯傳穎指出，中國方案強(qiáng)調(diào)人工智能發(fā)展必須堅(jiān)持“以人為本”理念，提倡更為和諧、平衡的人類關(guān)系視角，倡導(dǎo)構(gòu)建一個(gè)平衡各方利益、共同應(yīng)對(duì)人類挑戰(zhàn)的全球人工智能治理新模式。
“不同模式在當(dāng)前非常需要對(duì)話與互補(bǔ)，因?yàn)槿斯ぶ悄艿挠绊懯恰鷳B(tài)性’的，任何一方都不可能完全排除他方，所以存在形成合作共識(shí)的基礎(chǔ)?！鄙虾＝煌ù髮W(xué)政治經(jīng)濟(jì)研究院名譽(yù)院長、廣州粵港澳大灣區(qū)研究院理事長鄭永年表示，“當(dāng)前盡管仍然存在分歧，中美、中法之間都在人工智能領(lǐng)域展開積極對(duì)話，只有在堅(jiān)持開放、對(duì)話、合作基礎(chǔ)上，我們才有可能提升人工智能國際治理水平，在未來能形成具有約束力、執(zhí)行力的合作共識(shí)?！?/p>
大會(huì)期間，科學(xué)家從技術(shù)視角提出了一些新的治理理念和路徑。“應(yīng)將人工智能治理視為一類‘知識(shí)’和‘行動(dòng)’并進(jìn)的公共產(chǎn)品?！毖懱岢觯@類公共產(chǎn)品具有非排他性，即所有從業(yè)者都應(yīng)服從相關(guān)規(guī)制；同時(shí)，這類公共產(chǎn)品也具有非競爭性，即治理方案的擴(kuò)散和運(yùn)用不影響他者對(duì)該方案的享用。
斯坦福發(fā)布的《人工智能指數(shù)報(bào)告》中，中國連續(xù)兩年成為AI信任度最高的區(qū)域。袁媛認(rèn)為，這說明目前中國的AI治理和企業(yè)自律都有較好的表現(xiàn)。她期待接下來，企業(yè)、政府、研究機(jī)構(gòu)等第三方共同制定安全規(guī)范，媒體公眾參與監(jiān)督，大家一起把事情做好?！笆袌?chǎng)是最好的考場(chǎng)，君子之過如日月之食，誰出錯(cuò)都在聚光燈下。”她還建議，為營造更為向善的生態(tài)，應(yīng)采用激勵(lì)與監(jiān)管相融的方式，對(duì)安全治理方面投入更多的企業(yè)予以激勵(lì)。（易蓉）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)