發(fā)展和完善人工智能的社會(huì)治理體制機(jī)制
近年來(lái)，以DeepSeek等為代表的預(yù)訓(xùn)練大模型持續(xù)取得突破，人工智能正在快速嵌入社會(huì)運(yùn)行體制機(jī)制。在技術(shù)創(chuàng)新與社會(huì)治理的共振中，社會(huì)治理方式將面臨前所未有的范式變革：算法與規(guī)范交織、智能決策與透明度碰撞、技術(shù)創(chuàng)新與潛在風(fēng)險(xiǎn)沖突等，形成了新時(shí)期社會(huì)治理的多重張力。當(dāng)前，中國(guó)正在書(shū)寫(xiě)人工智能的社會(huì)治理新篇章——既要在技術(shù)快速迭代中堅(jiān)守以人民為中心的理念，又要在體制機(jī)制創(chuàng)新中開(kāi)辟人機(jī)互動(dòng)共生新場(chǎng)景。這關(guān)乎中國(guó)式現(xiàn)代化，關(guān)乎人類文明走向，折射出中國(guó)智慧對(duì)全球未來(lái)現(xiàn)代性的回應(yīng)能力。
一、人工智能推動(dòng)我國(guó)社會(huì)治理健康高質(zhì)量發(fā)展
我國(guó)始終堅(jiān)持發(fā)展人工智能與“以人為本”理念相結(jié)合，以增進(jìn)人類福祉為目標(biāo)，以保障社會(huì)安全、尊重人類權(quán)益為前提。
人工智能已應(yīng)用到公共安全、政務(wù)服務(wù)、社會(huì)服務(wù)等諸多社會(huì)治理領(lǐng)域，技術(shù)賦能社會(huì)治理水平不斷提升。人工智能構(gòu)建起了以數(shù)據(jù)處理等為基礎(chǔ)的立體化治安防控體系。如人工智能攝像頭集成人臉識(shí)別、行為分析、多目標(biāo)追蹤技術(shù)等，大大提升了破案率和公共安全能力。人工智能網(wǎng)絡(luò)犯罪監(jiān)測(cè)系統(tǒng)幫助識(shí)別和攔截電信詐騙，維護(hù)了市場(chǎng)穩(wěn)定和社會(huì)利益。人工智能賦能基層治理，助力社區(qū)事件自動(dòng)分撥，降低社區(qū)沖突和矛盾投訴量，夯實(shí)了基層治理基礎(chǔ)。隨著實(shí)踐的深入，有關(guān)部門(mén)進(jìn)一步完善數(shù)據(jù)安全、算法透明度等監(jiān)管體制機(jī)制，落實(shí)主體責(zé)任，以人工智能治理推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化。
人工智能健康發(fā)展的宏觀環(huán)境不斷優(yōu)化?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》對(duì)促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人以及其他組織的合法權(quán)益作出明確規(guī)定。黨的二十屆三中全會(huì)對(duì)人工智能治理作出了進(jìn)一步戰(zhàn)略部署，要求“完善生成式人工智能發(fā)展和管理機(jī)制”。近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，自2025年9月1日起施行，要求進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)活動(dòng)。此外，企業(yè)在開(kāi)發(fā)大模型過(guò)程中，把社會(huì)主義核心價(jià)值觀和中華優(yōu)秀傳統(tǒng)文化融入設(shè)計(jì)，努力實(shí)現(xiàn)價(jià)值對(duì)齊，避免技術(shù)異化，如，某大模型探討用“禮”作為算法公平性評(píng)估維度，探索本土化倫理框架，謹(jǐn)慎對(duì)待文化內(nèi)涵和現(xiàn)實(shí)復(fù)雜性，推動(dòng)傳統(tǒng)文化與人工智能倫理結(jié)合。我國(guó)已逐步形成“中央政策引導(dǎo)+地方場(chǎng)景創(chuàng)新+企業(yè)技術(shù)落地”的人工智能發(fā)展環(huán)境和治理生態(tài)，推動(dòng)人工智能社會(huì)治理從“數(shù)字化”向“數(shù)智化”邁進(jìn)。
二、讓“人工智能+”行動(dòng)擁有更多的社會(huì)治理場(chǎng)景
十四屆全國(guó)人大三次會(huì)議審議通過(guò)的《政府工作報(bào)告》提出，“持續(xù)推進(jìn)‘人工智能+’行動(dòng)，將數(shù)字技術(shù)與制造優(yōu)勢(shì)、市場(chǎng)優(yōu)勢(shì)更好結(jié)合起來(lái)，支持大模型廣泛應(yīng)用，大力發(fā)展智能網(wǎng)聯(lián)新能源汽車(chē)、人工智能手機(jī)和電腦、智能機(jī)器人等新一代智能終端以及智能制造裝備?！?/p>
在社會(huì)治理領(lǐng)域，要繼續(xù)推動(dòng)人工智能治理融入國(guó)家治理體系和治理能力現(xiàn)代化。從全球范圍看，圍繞人工智能安全問(wèn)題，多個(gè)國(guó)家已經(jīng)開(kāi)展了國(guó)際合作，在技術(shù)層面交流互鑒，但各國(guó)在人工智能安全、隱私保護(hù)、倫理道德等領(lǐng)域的政策仍存在分歧。各國(guó)通過(guò)法律法規(guī)引導(dǎo)和規(guī)范人工智能發(fā)展方向，尤其在通用大模型、基礎(chǔ)算力等領(lǐng)域，調(diào)動(dòng)資源進(jìn)行人工智能研究與開(kāi)發(fā)。各國(guó)制定各自的技術(shù)標(biāo)準(zhǔn)影響著人工智能技術(shù)的適用性，如在自動(dòng)駕駛領(lǐng)域，數(shù)據(jù)、算法和算力上的差異會(huì)導(dǎo)致人工智能推理結(jié)果的差異?；趪?guó)家安全，各國(guó)制定嚴(yán)格措施保護(hù)數(shù)據(jù)隱私，這在一定程度上限制了數(shù)據(jù)使用、模型訓(xùn)練。算法設(shè)計(jì)受文化和社會(huì)環(huán)境影響，會(huì)導(dǎo)致推理結(jié)果差異。因此，積極推行國(guó)際合作，制定國(guó)際標(biāo)準(zhǔn)，確保人工智能系統(tǒng)在不同國(guó)家的互操作性和公平性十分重要。進(jìn)行國(guó)際合作和數(shù)據(jù)共享可以提升人工智能系統(tǒng)推理能力，縮小不同模型對(duì)同一問(wèn)題回答的差異。開(kāi)源開(kāi)放是破除技術(shù)壁壘、實(shí)現(xiàn)普惠發(fā)展的關(guān)鍵路徑。開(kāi)源開(kāi)放可以打破閉源人工智能生態(tài)圍欄，其既有積極的一面，也有潛在的風(fēng)險(xiǎn)。開(kāi)源促進(jìn)開(kāi)發(fā)者協(xié)作，加速技術(shù)創(chuàng)新迭代，使更多國(guó)家和機(jī)構(gòu)以低成本獲取先進(jìn)技術(shù)，助力解決全球公共問(wèn)題，但其也會(huì)被惡意利用，進(jìn)行網(wǎng)絡(luò)攻擊或傳播虛假信息，會(huì)導(dǎo)致自主創(chuàng)新能力下降，削弱技術(shù)創(chuàng)新動(dòng)力。因此，需在開(kāi)源開(kāi)放與自主創(chuàng)新之間找到平衡，不斷提升人工智能全球治理能力。
在人文社會(huì)科學(xué)領(lǐng)域，面對(duì)人工智能技術(shù)的迭代和顛覆式發(fā)展，需要構(gòu)建自然科學(xué)與人文社會(huì)科學(xué)的跨學(xué)科對(duì)話機(jī)制、完善知識(shí)生產(chǎn)體系、強(qiáng)化社會(huì)價(jià)值引領(lǐng)，通過(guò)學(xué)術(shù)共同體建設(shè)與制度創(chuàng)新縮小認(rèn)知鴻溝，推動(dòng)人工智能與哲學(xué)、法學(xué)、經(jīng)濟(jì)學(xué)等學(xué)科的聯(lián)合攻關(guān)，不斷提升人文社會(huì)科學(xué)的水平和質(zhì)量，建立中國(guó)特色哲學(xué)社會(huì)科學(xué)自主知識(shí)體系，為提升我國(guó)綜合國(guó)力和國(guó)際競(jìng)爭(zhēng)力作出貢獻(xiàn)。
在社會(huì)傳播領(lǐng)域，要建立媒體正向引導(dǎo)體制機(jī)制。隨著人工智能快速發(fā)展，要構(gòu)建“科學(xué)傳播+內(nèi)容治理+公眾教育”的三位一體治理機(jī)制，通過(guò)制度約束、技術(shù)賦能與認(rèn)知提升構(gòu)建健康有序的人工智能輿論生態(tài)。對(duì)傳播有關(guān)人工智能謠言的賬號(hào)實(shí)施處罰，把造成惡劣影響自媒體列入處罰名單。訓(xùn)練深度學(xué)習(xí)大模型識(shí)別謠言的能力，自動(dòng)標(biāo)記謠言，限制謠言傳播。
在社會(huì)公眾領(lǐng)域，創(chuàng)造健康有序的社會(huì)環(huán)境。發(fā)展人工智能必須建立提升社會(huì)成員人文和數(shù)字素養(yǎng)體制機(jī)制。針對(duì)人工智能可能引發(fā)的“社會(huì)焦慮”，要通過(guò)系統(tǒng)性社會(huì)治理創(chuàng)新，構(gòu)建“技術(shù)認(rèn)知提升+社會(huì)責(zé)任共擔(dān)+公共價(jià)值共識(shí)”的系統(tǒng)性治理框架，化解技術(shù)不確定性造成的公眾疑慮、擔(dān)心。構(gòu)建科學(xué)認(rèn)知普及體系，破除“信息繭房”。增強(qiáng)決策透明度和公眾參與度，能使決策更好地反映民意，提高決策民主性。在智慧城市系統(tǒng)設(shè)置相關(guān)感知模塊，通過(guò)社交媒體語(yǔ)義分析、社區(qū)調(diào)查等方式捕捉居民關(guān)于人工智能的焦慮熱點(diǎn)。組織以技術(shù)人員為主體的人工智能技術(shù)支持隊(duì)伍，通過(guò)技術(shù)專家與心理咨詢師合作，深入基層化解公眾對(duì)人工智能的恐懼，把風(fēng)險(xiǎn)治理轉(zhuǎn)化為共識(shí)構(gòu)建，塑造“人機(jī)共生”時(shí)代的文明新形態(tài)。
三、堅(jiān)定不移以人為本發(fā)展有溫度的人工智能
人工智能作為一項(xiàng)顛覆性技術(shù)，實(shí)現(xiàn)其有效治理必須從工具管理轉(zhuǎn)向系統(tǒng)治理，這需要構(gòu)建涵蓋技術(shù)研發(fā)、應(yīng)用部署、社會(huì)影響評(píng)估的全周期、系統(tǒng)性治理體制機(jī)制。
當(dāng)前，最緊迫的任務(wù)是建立人工智能系統(tǒng)熔斷機(jī)制，即當(dāng)發(fā)現(xiàn)群體性認(rèn)知操控、系統(tǒng)性社會(huì)風(fēng)險(xiǎn)時(shí)，人工智能系統(tǒng)可以自動(dòng)觸發(fā)熔斷。這需要實(shí)現(xiàn)社會(huì)物理學(xué)模型與監(jiān)管系統(tǒng)深度融合，形成技術(shù)與社會(huì)雙反饋的人工智能社會(huì)治理閉環(huán)。要部署實(shí)時(shí)監(jiān)測(cè)模塊，及時(shí)識(shí)別輸入數(shù)據(jù)中的異常情況。如在金融風(fēng)險(xiǎn)控制中，要基于異常檢測(cè)算法攔截欺詐性交易。人工智能社會(huì)治理的核心在于通過(guò)“技術(shù)+制度”綜合設(shè)計(jì)，引導(dǎo)人工智能沿著正確的進(jìn)化方向發(fā)展，使其自發(fā)符合人類利益和人類文明演進(jìn)脈絡(luò)。此外，應(yīng)對(duì)技術(shù)激進(jìn)主義帶來(lái)的潛在風(fēng)險(xiǎn)，必須在技術(shù)層面保證人工智能的安全性、透明性、系統(tǒng)性、前瞻性、問(wèn)責(zé)性、評(píng)估性等，這涉及算法、數(shù)據(jù)、測(cè)試、安全等諸多維度。
要把開(kāi)發(fā)可解釋性的算法工具擺在人工智能社會(huì)治理的重要位置，確保人工智能決策邏輯對(duì)開(kāi)發(fā)者、監(jiān)管者和用戶透明。在涉及醫(yī)療診斷、司法量刑等高風(fēng)險(xiǎn)領(lǐng)域，必須強(qiáng)制要求算法的可解釋性，避免暗箱操作，堅(jiān)持社會(huì)公平正義原則。為此，要引入公平性評(píng)估指標(biāo)，檢測(cè)并修正算法中的性別歧視、種族歧視等社會(huì)文化偏見(jiàn)，探索開(kāi)發(fā)在不共享原始數(shù)據(jù)前提下的聯(lián)合訓(xùn)練模型，允許其在加密數(shù)據(jù)上直接計(jì)算，保護(hù)數(shù)據(jù)全流程安全，完善和建立數(shù)據(jù)清洗與標(biāo)注標(biāo)準(zhǔn)。
在政務(wù)人工智能系統(tǒng)中引入第三方安全審計(jì)，確保系統(tǒng)無(wú)邏輯后門(mén)、技術(shù)方法在特定條件下的行為符合預(yù)期等。在開(kāi)發(fā)初期就要考慮安全準(zhǔn)則嵌入問(wèn)題。建立人工智能系統(tǒng)動(dòng)態(tài)升級(jí)體制機(jī)制，及時(shí)發(fā)現(xiàn)問(wèn)題，及時(shí)修復(fù)漏洞。對(duì)于已經(jīng)部署的大模型，要進(jìn)行周期性再訓(xùn)練，防止數(shù)據(jù)漂移帶來(lái)的性能下降等問(wèn)題。加快建立人工智能安全技術(shù)國(guó)家標(biāo)準(zhǔn)，制定安全閾值與測(cè)試方法。積極參與國(guó)際標(biāo)準(zhǔn)制定，促進(jìn)各國(guó)之間的技術(shù)標(biāo)準(zhǔn)互認(rèn)。
總之，推動(dòng)人工智能的社會(huì)治理健康發(fā)展，是新時(shí)代社會(huì)治理的新問(wèn)題新任務(wù)。要立足實(shí)際、面向未來(lái)，積極深入探索這一新時(shí)代重大課題，必須按照黨的二十屆三中全會(huì)精神要求，堅(jiān)持系統(tǒng)觀念，處理好經(jīng)濟(jì)和社會(huì)、政府和市場(chǎng)、效率和公平、活力和秩序、發(fā)展和安全等重大關(guān)系，增強(qiáng)改革系統(tǒng)性、整體性、協(xié)同性。要堅(jiān)持統(tǒng)籌發(fā)展和安全的原則，用“技術(shù)創(chuàng)新+制度創(chuàng)新+文明演進(jìn)”回應(yīng)技術(shù)變革。人工智能技術(shù)迭代和顛覆式發(fā)展已經(jīng)超越簡(jiǎn)單的風(fēng)險(xiǎn)管控邏輯，必須建構(gòu)“技術(shù)發(fā)展+技術(shù)監(jiān)管+社會(huì)調(diào)適+文明演進(jìn)”的綜合治理協(xié)同構(gòu)架，以“技術(shù)防范+制度韌性+文明進(jìn)步”化解人工智能技術(shù)發(fā)展的不確定性，以文化自覺(jué)抵御工具理性異化，以人類命運(yùn)共同體理念重塑全球人工智能治理規(guī)則。人工智能的真正挑戰(zhàn)不在于機(jī)器能否超越人類智能，而在于人類能否在技術(shù)革命中守住社會(huì)公平正義的底線和人類文明的底色，把算法社會(huì)演進(jìn)轉(zhuǎn)化為實(shí)現(xiàn)人類自由全面發(fā)展的新契機(jī)，讓人工智能技術(shù)在人類文明智慧照耀下走向技術(shù)向善的星辰大海，不斷造福人類。（中共中央黨校（國(guó)家行政學(xué)院）督學(xué)、社會(huì)和生態(tài)文明教研部教授 丁元竹）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)