□ 本報(bào)記者 邢東偉 翟小功

當(dāng)前，全球人工智能技術(shù)快速迭代并應(yīng)用到各行各業(yè)，進(jìn)入爆發(fā)式發(fā)展階段。在創(chuàng)造更多發(fā)展機(jī)遇的同時(shí)，以AI為代表的新興技術(shù)也帶來(lái)風(fēng)險(xiǎn)挑戰(zhàn)。

3月25日，博鰲亞洲論壇2025年年會(huì)在海南博鰲舉行，AI成為四大議題之一。從現(xiàn)場(chǎng)令人驚嘆的科技展示，到各分論壇上唇槍舌劍的思想交鋒，AI熱度持續(xù)飆升。

與會(huì)中外嘉賓形成共識(shí)，要多方協(xié)作、動(dòng)態(tài)治理、倫理優(yōu)先、法治保障、技術(shù)透明，平衡推進(jìn)人工智能的應(yīng)用與治理。既不扼殺創(chuàng)新動(dòng)力，又能有效防范可能出現(xiàn)的風(fēng)險(xiǎn)，建立安全、可靠和值得信賴的人工智能系統(tǒng)，讓科技成果惠及全人類。

AI平權(quán)化發(fā)展

“今年全球最熱的一件事就是人工智能的飛躍發(fā)展，AI的每一個(gè)進(jìn)展都如此激動(dòng)人心”“中國(guó)在人工智能等多個(gè)領(lǐng)域的發(fā)展令人印象深刻”……

在“在AI應(yīng)用中塑造核心競(jìng)爭(zhēng)力”“AI：如何做到應(yīng)用與治理的平衡推進(jìn)”“加強(qiáng)數(shù)字能力建設(shè)，跨越數(shù)字鴻溝”等分論壇上，《法治日?qǐng)?bào)》記者聽到多位嘉賓如此感慨。

“在全球人工智能產(chǎn)業(yè)的飛速發(fā)展中，DeepSeek帶來(lái)的影響力尤為突出?！敝袊?guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長(zhǎng)張亞勤表示，DeepSeek是近兩年人工智能領(lǐng)域最大的、系統(tǒng)性、規(guī)模性的創(chuàng)新，也是中國(guó)對(duì)全球的重要貢獻(xiàn)。

中國(guó)社會(huì)科學(xué)院大學(xué)教授、國(guó)務(wù)院原副秘書長(zhǎng)江小涓從經(jīng)濟(jì)學(xué)角度分析稱，DeepSeek打破了寡頭壟斷的局面，推動(dòng)AI產(chǎn)業(yè)進(jìn)入充分競(jìng)爭(zhēng)階段，實(shí)現(xiàn)從技術(shù)能力向產(chǎn)業(yè)能力的轉(zhuǎn)變，構(gòu)建起傳統(tǒng)市場(chǎng)經(jīng)濟(jì)的競(jìng)爭(zhēng)格局。

“今年春節(jié)期間，眾多企業(yè)CEO都在研究如何將DeepSeek應(yīng)用到企業(yè)運(yùn)營(yíng)中?！碑咇R威中國(guó)副主席劉建剛表示，DeepSeek作為低價(jià)、開源的推理大模型，提供了可快速部署的技術(shù)架構(gòu)，有力推動(dòng)了AI平權(quán)化發(fā)展。他提出，未來(lái)AI就像水和電一樣，會(huì)成為一種基本資源，人人都能使用。

據(jù)香港特區(qū)政府創(chuàng)新科技及工業(yè)局局長(zhǎng)孫東介紹，當(dāng)前，人工智能技術(shù)正重塑全球經(jīng)濟(jì)格局。香港已經(jīng)將人工智能列為關(guān)鍵產(chǎn)業(yè)，持續(xù)推進(jìn)“人工智能+”行動(dòng)，積極推動(dòng)人工智能創(chuàng)新并賦能各行各業(yè)發(fā)展。

乘著數(shù)字化轉(zhuǎn)型浪潮，人工智能正以超乎想象的速度重塑企業(yè)運(yùn)營(yíng)模式。飛書產(chǎn)品副總裁施凱文提出，AI第一次讓“三流人才”能夠做出“一流人才”的工作成果，為企業(yè)發(fā)展帶來(lái)全新契機(jī)。

新加坡貿(mào)工部前首席經(jīng)濟(jì)學(xué)家、南洋理工大學(xué)經(jīng)濟(jì)學(xué)教授陳光炎表示，中國(guó)在人工智能領(lǐng)域取得了顯著成就，全球競(jìng)爭(zhēng)力不斷增強(qiáng)，中國(guó)有望成為下一個(gè)全球生產(chǎn)力革命的推動(dòng)者。

構(gòu)建AI安全護(hù)欄

隨著AI技術(shù)“狂飆式”發(fā)展，一個(gè)令人不安的場(chǎng)景或從科幻電影走向現(xiàn)實(shí)：本應(yīng)協(xié)助人類的AI，可能因?yàn)樗惴ㄆ罨蛲獠坎倏v，作出違背倫理、違反法律、危及人類利益的決策。

“與蒸汽機(jī)、電力等增強(qiáng)人類體力的技術(shù)不同，AI直接賦能人類大腦，涉及計(jì)算與認(rèn)知的深度融合?！鄙虾？茖W(xué)智能研究院首席戰(zhàn)略官、復(fù)旦大學(xué)經(jīng)濟(jì)學(xué)教授楊燕青將AI特性描述為“類人”，這使得AI既能帶來(lái)生產(chǎn)力提升，也可能引發(fā)威脅人類生存的風(fēng)險(xiǎn)。

在中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家曾毅看來(lái)，人工智能的發(fā)展應(yīng)用和安全之間不是相互掣肘的關(guān)系。

“AI技術(shù)發(fā)展的同時(shí)，可以同步構(gòu)建有效的‘安全護(hù)欄’?！痹憬ㄗh，將倫理安全融入AI開發(fā)的底層設(shè)計(jì)，并視為“第一性原則”，不可刪除、不可違背。AI的倫理安全應(yīng)成為技術(shù)發(fā)展的基因，確保其與人類價(jià)值觀保持一致。

張亞勤進(jìn)一步將AI風(fēng)險(xiǎn)分解為可信度與可控性兩個(gè)層面。他指出，可信度要求AI在執(zhí)行任務(wù)時(shí)遵循人類期望、倫理規(guī)范和國(guó)家法律，不產(chǎn)生誤導(dǎo)性、有害或不公平的結(jié)果；可控性則確保人類能有效監(jiān)控、干預(yù)和糾正AI行為，避免失控或不可預(yù)測(cè)的后果。

張亞勤表示，就可能存在的風(fēng)險(xiǎn)而言，設(shè)定技術(shù)紅線與邊界是關(guān)鍵。如限制智能體自我復(fù)制，以降低失控風(fēng)險(xiǎn)。

針對(duì)通過(guò)制定標(biāo)準(zhǔn)能否解決人工智能的安全性問(wèn)題，vivo首席安全官魯京輝指出，安全性問(wèn)題不能簡(jiǎn)單地通過(guò)制定法律或規(guī)則解決，需要形成共識(shí)，但技術(shù)共識(shí)無(wú)法消弭政治分歧，需正視地緣現(xiàn)實(shí)。

歐盟《人工智能法案》于2024年實(shí)施，對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)設(shè)定了嚴(yán)格的透明度和問(wèn)責(zé)要求。今年3月，我國(guó)出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，在全球率先提出保障人工智能安全可信的“中國(guó)方案”。

掀起AI新浪潮

AI將把人類帶向何方？如何推進(jìn)人工智能全球治理？論壇期間，一系列問(wèn)題成為中外嘉賓熱議的焦點(diǎn)，引發(fā)人們對(duì)人工智能未來(lái)走向的無(wú)限遐想。

記者注意到，很多嘉賓通過(guò)類比電的發(fā)現(xiàn)、蒸汽機(jī)的發(fā)明，指出人工智能對(duì)人類社會(huì)的變革才剛剛開始。如今的人工智能，雖已在部分領(lǐng)域落地，但未來(lái)很可能催生全新的業(yè)務(wù)模式，重塑社會(huì)形態(tài)。

“當(dāng)前，國(guó)內(nèi)人工智能行業(yè)的發(fā)展，正在從生成式AI走向Agent智能，從預(yù)訓(xùn)練走向推理，從信息智能走向物理智能、具身智能?！睆垇喦诒硎荆渲?，相較人形機(jī)器人，無(wú)人駕駛作為具身智能最具潛力且最易落地的應(yīng)用，有望率先實(shí)現(xiàn)大規(guī)模商用。

曾毅提出，自然演化規(guī)律正逐步融入人工智能的計(jì)算體系，未來(lái)人工智能需在計(jì)算機(jī)制上借鑒自然機(jī)制，包括人類學(xué)習(xí)、發(fā)育和演化機(jī)制，有望推動(dòng)人工智能邁向新高度。

香港科技大學(xué)首席副校長(zhǎng)郭毅可表示，人工智能的發(fā)展方向與工業(yè)革命單純追求效率不同，更注重個(gè)性化。以浙江一家成衣制造公司為例，借助AI實(shí)現(xiàn)成衣個(gè)性化定制，最大程度滿足了個(gè)人需求。

施凱文認(rèn)為，AI的發(fā)展如同移動(dòng)互聯(lián)網(wǎng)的崛起，正處于蓄力階段。未來(lái)幾年，AI將從硬件到軟件實(shí)現(xiàn)全面更新?lián)Q代，為經(jīng)濟(jì)增長(zhǎng)創(chuàng)造新的需求和發(fā)展思路。

清華大學(xué)公共管理學(xué)院院長(zhǎng)朱旭峰提出，未來(lái)，機(jī)器人文明可能全面取代人類文明?；蛘呷祟愅ㄟ^(guò)技術(shù)改造自身，突破生命倫理限制，應(yīng)對(duì)人工智能的挑戰(zhàn)。

當(dāng)全球眾多國(guó)家與機(jī)構(gòu)積極探討人工智能合作契機(jī)時(shí)，美國(guó)卻反其道而行之?！懊绹?guó)限制技術(shù)流動(dòng)、設(shè)置關(guān)稅等行為，嚴(yán)重阻礙了全球技術(shù)的整體進(jìn)步?！迸餐虒W(xué)院戰(zhàn)略學(xué)教授、前諾丁漢大學(xué)商學(xué)院（中國(guó)）院長(zhǎng)卡爾·費(fèi)說(shuō)。

英國(guó)勵(lì)訊集團(tuán)公共事務(wù)總裁、愛思唯爾董事長(zhǎng)池永碩認(rèn)為，全球AI發(fā)展不應(yīng)被單一國(guó)家主導(dǎo)，應(yīng)摒棄狹隘的民族主義和企業(yè)競(jìng)爭(zhēng)思維，重視全球合作的重要性。