AIIA安全治理委員會成果發(fā)布會成功召開
7月24日,中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(以下簡稱“AIIA”)安全治理委員會成果發(fā)布會在北京順利召開。AIIA秘書長、中國信息通信研究院(以下簡稱“中國信通院”)院長余曉暉、工業(yè)和信息化部網(wǎng)絡安全管理局數(shù)據(jù)安全處處長雷楠、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧出席活動并致辭。
余曉暉秘書長在歡迎辭中表示,當前人工智能安全治理需要匯聚行業(yè)各方智慧和力量,共同完善人工智能安全風險識別方法論,建立更為敏捷、精確的安全風險識別機制,盡早、盡快發(fā)現(xiàn)風險,加強人工智能安全評測技術工具的研究,通過技術來治理技術。
AIIA安全治理委員會專家委主任、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧在致辭中指出,為應對當前人工智能所帶來的安全挑戰(zhàn),AIIA安全治理委員會重點圍繞人工智能的治理框架、風險管理、內生安全、安全應用開展了大量的理論和技術研究工作。
AIIA安全治理委員會辦公室主任、中國信通院人工智能研究所安全與元宇宙部主任石霖向與會人員匯報了委員會近期的工作成果。在全體成員的共同努力下,委員會圍繞人工智能安全治理取得的了顯著成果,會上進行了一一發(fā)布。工業(yè)和信息化部網(wǎng)絡安全管理局數(shù)據(jù)安全處處長雷楠、中國信通院人工智能研究所所長魏凱、郵儲銀行軟件研發(fā)中心研發(fā)安全處負責人王齊峰、訊飛數(shù)碼科技有限公司副總裁楊娟、vivo軟件產(chǎn)業(yè)發(fā)展高級總監(jiān)曹宇瓊、螞蟻集團股份有限公司安全標準總監(jiān)林冠辰、第四范式政府事務總監(jiān)趙永飛等企業(yè)代表以及產(chǎn)業(yè)界50余家合作伙伴共同見證啟動了“人工智能安全守護計劃”(簡稱“智安計劃”),打造AI Guard品牌,將共同建立AI系統(tǒng)情報共享機制、AIGC真實性和可信賴來源互認機制,推動設立人工智能相關保險產(chǎn)品,提升國內人工智能技術的服務提供方、使用方的安全防護能力。
會上進行了AIIA安全治理委員會專家聘任儀式,為專家委主任、副主任委員頒發(fā)聘書。
依托AIIA安全治理委員會,中國信通院在2024年上半年啟動了大模型安全、AIGC檢測、安全大模型、代碼大模型安全、生物特征識別安全等聯(lián)盟規(guī)范的制定和評估工作。會上,AIIA安全治理委員會評估結果正式公布,vivo、螞蟻、中數(shù)通、齊魯壹點、東方通、招商銀行、阿里云、??低?、中移金科、百度網(wǎng)訊、馬上消費、科大訊飛、商湯等企業(yè)代表獲得證書。
北京大學法學院教授、北京大學人工智能研究院AI安全與治理中心主任張平,中國科學院自動化研究所研究員、國家新一代人工智能治理專家委員會委員、聯(lián)合國人工智能高層顧問機構專家曾毅,360集團副總裁張向征等專家圍繞人工智能安全治理的中國實踐及國際共識、大模型安全等內容進行了主旨演講,深入剖析人工智能關鍵技術、內容,探討國內外人工智能安全治理現(xiàn)狀以及實踐經(jīng)驗。
在治理環(huán)節(jié),與會專家重點圍繞人工智能治理規(guī)范與風險管理展開了討論。AIIA安全治理委員會治理組組長呼娜英對治理組近期工作進行了匯報。治理組圍繞人工智能治理宏觀研究、人工智能應用治理合規(guī)、人工智能賦能治理三個方面開展研究工作,旨在凝聚產(chǎn)業(yè)共識,形成服務我國人工智能產(chǎn)業(yè)發(fā)展的治理框架,促進人工智能典型應用安全合規(guī),探索人工智能賦能治理的最佳范式,推動產(chǎn)業(yè)生態(tài)向善發(fā)展。
中國法學會法治研究所研究員、中國法學會網(wǎng)絡與信息法學研究會副秘書長劉金瑞、北京市金杜律師事務所合伙人寧宣鳳、阿里研究院 AI治理中心副主任王錚等專家圍繞大模型帶來的新興風險及規(guī)制路徑、人工智能事前、事中、事后的風險管理,以及大模型訓練數(shù)據(jù)的安全治理等主題帶來了精彩專題演講。人工智能大模型帶來的風險挑戰(zhàn)以及治理方案進行了專題演講。
在安全環(huán)節(jié),重點圍繞人工智能原生安全、賦能安全展開討論。AIIA安全治理委員會安全組組長陳文弢對安全組近期工作進行了匯報。中國信通院人工智能所近半年來依托聯(lián)盟深度開展了大模型安全基準測試工作,重點推動大模型安全加固能力建設,開展了大語言模型安全、圖文大模型安全、代碼大模型和人工智能賦能網(wǎng)絡安全等方面的技術規(guī)范研究,并推動了相關評測工作。同時發(fā)布了具備強魯棒性的隱式數(shù)字水印服務,提升大模型平臺的合規(guī)能力。
中國信通院人工智能所黑一鳴博士發(fā)布了自研的大模型安全加固解決方案。該能力通過模型微調、外掛安全知識庫等模式對開源大模型自身進行安全防護加固,在保持模型原有通用能力和推理效率的前提下,明顯增強了其抵御多種誘導攻擊的能力。該能力及相關數(shù)據(jù)底座仍在持續(xù)迭代升級中,具有很強的泛化能力。
北京郵電大學教授、博士生導師、網(wǎng)絡空間安全學院副院長張熙、郵儲銀行軟件研發(fā)中心副主任工程師宋寧、上海斗象信息科技有限公司 AI攻防負責人肖朕等專家圍繞人工智能內生安全、賦能安全方面進行了專題演講。
在圓桌討論環(huán)節(jié),在AIIA安全治理委員會專家委副主任委員、中國信通院互聯(lián)網(wǎng)法律研究中心主任、國際電信聯(lián)盟人工智能學者何波主持下,對外經(jīng)濟貿易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任許可、華為戰(zhàn)略研究院人工智能治理產(chǎn)業(yè)發(fā)展首席專家柳嘉琪、騰訊研究院首席數(shù)據(jù)法律專家王融、百度集團人工智能業(yè)務法務合規(guī)負責人徐全全,以“新技術新應用企業(yè)出海合規(guī)實踐”主題,圍繞企業(yè)合規(guī)治理等話題進行了深入地探討交流。
編輯:遲明緒