本刊記者 徐明皎

　　近日，國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，自2022年3月1日起施行，算法迎來(lái)了“強(qiáng)監(jiān)管”。該規(guī)定明確，鼓勵(lì)算法推薦服務(wù)提供者優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對(duì)用戶產(chǎn)生不良影響。

　　此前，2021年9月，國(guó)家網(wǎng)信辦等九部門出臺(tái)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》，將“算法應(yīng)用公平公正、透明可釋”作為基本原則。監(jiān)管之下，算法“黑箱”有望打開。

　　算法“黑箱”現(xiàn)象為人詬病

　　2019年，大量少女媽媽被快手推薦至首頁(yè)一事，讓“算法”這一互聯(lián)網(wǎng)技術(shù)詞匯開始為大眾知悉。此后，“大數(shù)據(jù)殺熟”平臺(tái)歧視等算法問(wèn)題一直是大眾的痛點(diǎn)，也是政府監(jiān)管的重點(diǎn)。

　　據(jù)了解，算法是貫徹在人工智能系統(tǒng)中執(zhí)行特定指令的程序，通過(guò)對(duì)海量數(shù)據(jù)的深度學(xué)習(xí)實(shí)現(xiàn)自我更新和升級(jí)。由于算法的高度技術(shù)復(fù)雜性和專業(yè)性，公眾通常難以知曉其運(yùn)作過(guò)程，甚至由于其歷經(jīng)多次迭代，連設(shè)計(jì)者都難以清晰解釋，從而形成了算法“黑箱”。

　　算法在影響著人們的生活。生產(chǎn)、社會(huì)生活、商業(yè)經(jīng)營(yíng)和公共決策等領(lǐng)域越來(lái)越多地利用算法來(lái)實(shí)現(xiàn)特定目標(biāo)。外賣、網(wǎng)約車、甚至是政府的行政行為，利用算法來(lái)實(shí)現(xiàn)目標(biāo)成為常態(tài)。算法歧視、個(gè)人權(quán)利受損等問(wèn)題也逐步為大眾知悉。

　　在網(wǎng)絡(luò)閱讀上，個(gè)性化推薦算法的應(yīng)用帶來(lái)了“信息繭房”。下載新聞App，點(diǎn)擊過(guò)幾篇后，App總是推薦相關(guān)內(nèi)容。在中國(guó)政法大學(xué)副教授鄭玉雙看來(lái)，這一推薦模式導(dǎo)致的結(jié)果是，個(gè)人雖然獲取了大量信息，但并未轉(zhuǎn)化為有效知識(shí)。個(gè)人被這種信息獲取機(jī)制反向支配，個(gè)人自治受到侵蝕。

　　雖然技術(shù)中立，但算法的設(shè)計(jì)者是有價(jià)值觀的。少女媽媽事件被曝光后，快手CEO宿華曾在微博中發(fā)表文章致歉，文章表示，將用正確的價(jià)值觀指導(dǎo)算法，將改進(jìn)算法，優(yōu)先推薦個(gè)性化的更符合用戶興趣的正能量作品，放大優(yōu)秀作品的影響力、感染力。

　　另外，算法也會(huì)因?yàn)閿?shù)據(jù)的選擇、算法的設(shè)計(jì)而注入偏見(jiàn)和引發(fā)歧視。

　　“算法實(shí)踐中的亂象引發(fā)對(duì)算法進(jìn)行監(jiān)管或者對(duì)算法進(jìn)行法律規(guī)制的迫切需求?！编嵱耠p表示。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第四條明確，提供算法推薦服務(wù)，應(yīng)當(dāng)遵守法律法規(guī)，尊重社會(huì)公德和倫理。

　　可解釋性內(nèi)容仍存爭(zhēng)議

　　四部門管理規(guī)定多個(gè)條款涉及到算法推薦的透明性和可解釋性。

　　近日騰訊研究院發(fā)布的報(bào)告《可解釋AI發(fā)展報(bào)告2022》提示說(shuō)，通過(guò)對(duì)算法決策的解釋，一方面能夠保障公眾的知情權(quán)和同意權(quán)，另一方面也有利于增強(qiáng)公眾對(duì)AI產(chǎn)品的信心與信任。通過(guò)算法透明化機(jī)制還能倒逼開發(fā)者、提供者采取有效的措施防范算法歧視、決策偏差等問(wèn)題。

　　不過(guò)，對(duì)算法應(yīng)該如何公開，以及做怎樣的解釋，目前仍存爭(zhēng)議。

　　據(jù)了解，目前對(duì)商業(yè)領(lǐng)域中AI系統(tǒng)的可解釋性要求，主要有兩種類型：一類是要求對(duì)結(jié)果進(jìn)行原因解釋，另一類是要求對(duì)算法模型邏輯進(jìn)行解釋。

　　“優(yōu)化算法可解釋性及透明度不僅在技術(shù)上頗為復(fù)雜，在法律與政策層面亦頗費(fèi)思量?！敝袊?guó)人民公安大學(xué)副教授、數(shù)據(jù)法研究院院長(zhǎng)蘇宇表示，算法推薦的相關(guān)技術(shù)已經(jīng)進(jìn)入國(guó)家的重點(diǎn)保護(hù)范圍，一旦外泄將引起不利影響。同時(shí)滿足算法透明度及可解釋性義務(wù)，還要滿足防止算法涉及泄密，頗有難度。同時(shí)，法律規(guī)定了商業(yè)秘密保護(hù)條款，商業(yè)秘密與算法的透明度和可解釋性義務(wù)之間也有可能存在矛盾。

　　騰訊研究院的報(bào)告建議，考慮商業(yè)AI的不同風(fēng)險(xiǎn)等級(jí)建立不同標(biāo)準(zhǔn)，分級(jí)進(jìn)行監(jiān)管。

　　據(jù)了解，目前，互聯(lián)網(wǎng)技術(shù)領(lǐng)域也在探索可解釋AI的技術(shù)解決方案，以提供可解釋性工具和服務(wù)。

　　應(yīng)重視算法設(shè)計(jì)倫理

　　2017年國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確提出了要“實(shí)現(xiàn)對(duì)人工智能算法設(shè)計(jì)等程序的全流程監(jiān)管”。

　　除了對(duì)算法的事后監(jiān)管，在業(yè)內(nèi)人士看來(lái)，算法在設(shè)計(jì)之初就應(yīng)受到監(jiān)管。

　　中國(guó)政法大學(xué)副教授金夢(mèng)認(rèn)為，人在設(shè)計(jì)算法之初會(huì)將人類的思維方式和價(jià)值取向設(shè)計(jì)進(jìn)算法的底層邏輯，“從這個(gè)意義上來(lái)說(shuō)，算法從一開始就不是價(jià)值中立的?！?/p>

　　金夢(mèng)認(rèn)為，應(yīng)從立法層面規(guī)定算法主體行為的基本準(zhǔn)則和倫理規(guī)范。她表示，技術(shù)行為依然是在憲法和法律范圍內(nèi)的活動(dòng)，不能超越法律的邊界。對(duì)于法律沒(méi)有涉及的技術(shù)行為的空白地帶，算法主體要嚴(yán)格恪守職業(yè)倫理的要求，遵從理智德性和道德德性的行為指引，不能從事威脅人類倫理安全的技術(shù)行為實(shí)驗(yàn)?！坝行Х婪恫⒒馑惴ǖ募夹g(shù)風(fēng)險(xiǎn)需要從風(fēng)險(xiǎn)產(chǎn)生的源頭、制造風(fēng)險(xiǎn)的算法主體入手，培育算法主體的科技倫理?！苯饓?mèng)表示。

　　在金夢(mèng)看來(lái)，研發(fā)設(shè)計(jì)科學(xué)合理友好的算法是算法主體的技術(shù)職責(zé)，算法更好地服務(wù)于人類的實(shí)踐活動(dòng)是算法主體行為的價(jià)值追求。她舉例說(shuō)，在電影評(píng)分中，表面上由每個(gè)人的評(píng)分組成的群體均分，實(shí)際上是按照特定的算法統(tǒng)計(jì)得出的。不同的評(píng)分機(jī)制背后的價(jià)值預(yù)設(shè)不同，科學(xué)的算法才能讓評(píng)分實(shí)現(xiàn)正義。

　　還有學(xué)者建議，在算法設(shè)計(jì)階段就進(jìn)行倫理評(píng)估，以立法形式明晰算法設(shè)計(jì)者的倫理設(shè)計(jì)義務(wù)，在設(shè)計(jì)階段將法律所追求的倫理價(jià)值融入算法功能。