7月18日，2023年中國(guó)網(wǎng)絡(luò)文明大會(huì)算法治理論壇在福建廈門(mén)舉行。論壇以“算法治理向上向善 網(wǎng)絡(luò)文明共建共享”為主題，依托人工智能技術(shù)新一輪發(fā)展浪潮，圍繞新形勢(shì)下的算法大模型發(fā)展與安全，深入探討算法治理的新趨勢(shì)新挑戰(zhàn)，拓展算法綜合治理新思路新路徑，護(hù)航新技術(shù)新應(yīng)用健康可持續(xù)發(fā)展。

論壇上，人民網(wǎng)、新華社、中國(guó)傳媒大學(xué)、中國(guó)科學(xué)院計(jì)算技術(shù)研究所、中央廣播電視總臺(tái)代表，以及各單位國(guó)家重點(diǎn)實(shí)驗(yàn)室代表發(fā)表主題演講，多方面闡述人工智能算法治理舉措，推動(dòng)人工智能大模型安全發(fā)展。

中國(guó)傳媒大學(xué)副校長(zhǎng)王暉在現(xiàn)場(chǎng)分享，國(guó)家網(wǎng)信辦聯(lián)合六部委推出的《生成式人工智能服務(wù)管理暫行辦法》針對(duì)生成式人工智能算法做出了“以治理促發(fā)展”的管理定位，“科學(xué)監(jiān)管”是其中的核心要義。生成式人工智能算法能否得到科學(xué)且有效的治理，是決定AI大模型可信、可管、可控與否的關(guān)鍵，也是媒體融合與傳播國(guó)家重點(diǎn)實(shí)驗(yàn)室研究重心。治理方案的科學(xué)性具有規(guī)范化、全局化與一體化的特點(diǎn)。其中，規(guī)范化指算法應(yīng)對(duì)齊主流價(jià)值觀、匹配領(lǐng)域需求、符合用戶認(rèn)知；全局化指算法治理時(shí)要具有全局觀，要從信息傳播的全流程考慮可能產(chǎn)生的潛在影響；一體化指算法治理要與算力規(guī)劃、數(shù)據(jù)治理、場(chǎng)景創(chuàng)新融合發(fā)展。

中國(guó)科學(xué)院計(jì)算所副所長(zhǎng)程學(xué)旗表示，人工智能技術(shù)正在步入一個(gè)技術(shù)創(chuàng)新與顛覆式應(yīng)用模式頻現(xiàn)的爆發(fā)期，生成式大模型的爆發(fā)式涌現(xiàn)掀起新一輪發(fā)展熱潮。同時(shí)，由于智能算法的算法缺陷、算法濫用、算法對(duì)抗等核心問(wèn)題，引發(fā)諸如大數(shù)據(jù)“殺熟”、隱私泄露、信息繭房、認(rèn)知極化、大模型安全問(wèn)題等，為算法治理乃至社會(huì)治理帶來(lái)新挑戰(zhàn)。中國(guó)科學(xué)院計(jì)算所在落實(shí)算法綜合治理方面，主要承擔(dān)“智能算法安全重點(diǎn)實(shí)驗(yàn)室”建設(shè)任務(wù)，重點(diǎn)布局基礎(chǔ)算法研究、支撐互聯(lián)網(wǎng)算法安全治理和網(wǎng)絡(luò)空間認(rèn)知安全等方向，加快突破智能算法可信域判定、算法黑箱透明化監(jiān)測(cè)、系統(tǒng)博弈臨界點(diǎn)感知調(diào)控三大重點(diǎn)難點(diǎn)問(wèn)題，持續(xù)加強(qiáng)智庫(kù)力量與技術(shù)攻關(guān)，為算法綜合治理提供有力支撐。

論壇現(xiàn)場(chǎng)，百度、阿里云、美亞柏科、美圖等企業(yè)代表結(jié)合大模型領(lǐng)域的深入實(shí)踐，圍繞大模型的創(chuàng)新發(fā)展與安全風(fēng)險(xiǎn)進(jìn)行圓桌研討，交流經(jīng)驗(yàn)做法，共商發(fā)展與治理之策。（羅曉英）