本刊記者 焦艷 白楚玄

在數(shù)字時(shí)代的浪潮下，個(gè)性化算法推薦正深刻重構(gòu)青少年的學(xué)習(xí)與娛樂方式。從短視頻平臺(tái)精準(zhǔn)推送，到教育類App智能適配，算法在為未成年人創(chuàng)造便捷體驗(yàn)的同時(shí)，衍生出誘導(dǎo)沉迷、信息繭房等新型風(fēng)險(xiǎn)。構(gòu)建科學(xué)有效的算法治理體系，護(hù)航未成年人數(shù)字未來，成為保護(hù)未成年人網(wǎng)絡(luò)安全的重要課題。受訪的專家學(xué)者指出，破解難題需法治監(jiān)管與素養(yǎng)教育雙軌并行，共同構(gòu)筑未成年人數(shù)字世界的安全屏障。

未成年人易受算法侵害

“AI比真人更體貼”“Ta完全符合我對(duì)戀人的所有想象”……當(dāng)前，AI模擬戀愛聊天軟件通過所提供的“虛擬戀愛”等新奇體驗(yàn)，對(duì)于好奇心重、模仿能力強(qiáng)的未成年人來說極具吸引力。2024年10月，美國發(fā)生一起引發(fā)全球關(guān)注的訴訟案：一名母親指控某AI公司通過“擬人化、過度性化”的算法設(shè)計(jì)誘導(dǎo)其未成年子女沉迷虛擬戀愛對(duì)話，最終導(dǎo)致悲劇發(fā)生。

中國政法大學(xué)教授郭旨龍認(rèn)為，該類案件暴露了算法治理的全球性難題——沉迷“當(dāng)AI以‘完美伴侶’介入未成年人情感世界時(shí)，其背后的數(shù)據(jù)收集、模型訓(xùn)練和推薦邏輯可能直接威脅青少年身心健康?！?/p>

目前，不乏未成年人在算法推薦下通過交友軟件、鏈接而遭遇網(wǎng)絡(luò)侵害的案事例?！?023年網(wǎng)絡(luò)性侵未成年人全球風(fēng)險(xiǎn)評(píng)估報(bào)告》顯示，社交游戲平臺(tái)上的對(duì)話可以在短短19秒內(nèi)從第一條信息發(fā)展成為高風(fēng)險(xiǎn)的誘騙事件，凸顯了算法推薦與未成年人網(wǎng)絡(luò)侵害的高度關(guān)聯(lián)。

“無論未成年人還是成年人，皆已自愿或被動(dòng)地裹挾于算法推薦之中?！敝袊鴤髅酱髮W(xué)教授王四新強(qiáng)調(diào)，對(duì)于未成年人而言，算法呈現(xiàn)出一種“二律背反”的困境?！捌脚_(tái)本應(yīng)提供適宜內(nèi)容，卻因無法有效區(qū)分或者為實(shí)現(xiàn)商業(yè)目的，導(dǎo)致青少年被精準(zhǔn)營銷卻缺乏足夠保護(hù)?！蓖跛男抡f。

法治監(jiān)管建好制度堤壩

面對(duì)算法對(duì)未成年人可能帶來的潛在威脅，目前我國算法治理框架與未成年人網(wǎng)絡(luò)保護(hù)法治建設(shè)方面初具雛形。業(yè)內(nèi)人士表示，當(dāng)前我國已逐步構(gòu)建起一個(gè)覆蓋法律規(guī)則、執(zhí)法行動(dòng)與常態(tài)化監(jiān)管治理體系。

在法律規(guī)則層面，我國有《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《科技倫理審查辦法(試行)》等涉及算法的法律法規(guī)，對(duì)生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)進(jìn)行了規(guī)范，同時(shí)明確要求算法推薦服務(wù)提供者應(yīng)定期審核、評(píng)估、驗(yàn)證其算法機(jī)制、模型、數(shù)據(jù)及應(yīng)用結(jié)果，確保不設(shè)置任何誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或違背倫理道德的算法模型。

對(duì)涉及未成年人的保護(hù)方面，《未成年人網(wǎng)絡(luò)保護(hù)條例》對(duì)內(nèi)容分類管理、適齡提示、有害信息過濾等作出規(guī)定，旨在從源頭減少不良信息對(duì)未成年人的影響，為未成年人營造健康的網(wǎng)絡(luò)環(huán)境。2024年11月15日，國家網(wǎng)信辦發(fā)布《移動(dòng)互聯(lián)網(wǎng)未成年人模式建設(shè)指南》，升級(jí)目前“青少年模式”為“未成年人模式”，進(jìn)一步促進(jìn)企業(yè)平臺(tái)在時(shí)間管理、內(nèi)容審核、功能設(shè)計(jì)三個(gè)方面實(shí)現(xiàn)重要改進(jìn)。

在執(zhí)法行動(dòng)層面，通過積極開展算法綜合治理專項(xiàng)行動(dòng)，切實(shí)保障未成年人的合法權(quán)益。2024年11月，中央網(wǎng)信辦、工信部、公安部等四部門發(fā)布《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)的通知》，要求進(jìn)一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，專項(xiàng)行動(dòng)要求增強(qiáng)算法向上向善服務(wù)保護(hù)網(wǎng)民合法權(quán)益，持續(xù)優(yōu)化完善面向未成年人的算法推薦服務(wù)，便利未成年人獲取有益身心健康的信息。

從常態(tài)化監(jiān)管來看，2022年3月1日上線運(yùn)行互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)，定期分批公布算法備案信息，并要求通過算法備案的平臺(tái)進(jìn)行算法公示。業(yè)內(nèi)專家認(rèn)為，備案制度一定意義上倒逼算法推薦服務(wù)提供者積極進(jìn)行風(fēng)險(xiǎn)評(píng)估和全流程記錄，促進(jìn)執(zhí)法機(jī)關(guān)監(jiān)督算法活動(dòng)。

多方共筑免疫屏障

網(wǎng)絡(luò)空間治理面臨艱巨而復(fù)雜的挑戰(zhàn)，技術(shù)迭代會(huì)不斷產(chǎn)生新情況、新問題，加大了治理難度。受訪人士認(rèn)為，除了加強(qiáng)對(duì)算法推薦的規(guī)制管理，更需要幫助孩子建立“數(shù)字防護(hù)盾”?；ヂ?lián)網(wǎng)平臺(tái)應(yīng)當(dāng)建立青少年模式的“防火墻”，家長和學(xué)校也要教會(huì)孩子識(shí)別算法推薦套路，共同提升青少年在網(wǎng)絡(luò)空間自我保護(hù)能力。

中國青少年研究中心青年發(fā)展研究所副所長張曉冰認(rèn)為，很多未成年人在面對(duì)算法推送的信息時(shí)，缺乏辨別能力，容易被誤導(dǎo)、被誘導(dǎo)。不少未成年人可能會(huì)盲目相信算法推薦的內(nèi)容，陷入信息繭房，無法接觸到多元的觀點(diǎn)與知識(shí);也可能會(huì)在算法設(shè)計(jì)的成癮機(jī)制下難以自拔，對(duì)自身成長造成負(fù)面影響。

張曉冰建議，學(xué)校應(yīng)將數(shù)字素養(yǎng)教育納入課程體系，開設(shè)專門的課程或講座，向?qū)W生普及算法的基本原理、運(yùn)行機(jī)制以及潛在風(fēng)險(xiǎn)。通過案例分析、實(shí)踐操作等方式，引導(dǎo)學(xué)生辨別信息真?zhèn)?，理性?duì)待算法推薦，避免沉迷網(wǎng)絡(luò)。

家庭教育的協(xié)同作用不容忽視。中國青少年研究會(huì)副秘書長孫宏艷在調(diào)研中注意到，若家長支持孩子適度上網(wǎng)，沉迷網(wǎng)絡(luò)的比例只占2%左右;若嚴(yán)格管理或放任不管，未成年人網(wǎng)絡(luò)沉迷的比例將大幅提升。

多位受訪專家認(rèn)為，未成年人算法治理是一項(xiàng)系統(tǒng)工程，法治監(jiān)管與素養(yǎng)教育相輔相成，缺一不可。北京數(shù)字經(jīng)濟(jì)與數(shù)字治理法治研究會(huì)副秘書長梁偉亮指出，算法問題不應(yīng)孤立看待，法律規(guī)制不應(yīng)僅關(guān)注單個(gè)算法，應(yīng)考慮數(shù)字生態(tài)中的聯(lián)動(dòng)關(guān)系。

北京航空航天大學(xué)法學(xué)院副教授趙精武表示，現(xiàn)階段，多維度治理人工智能技術(shù)應(yīng)用已成為社會(huì)共識(shí)，除了傳統(tǒng)意義上的監(jiān)管機(jī)構(gòu)介入，家長、學(xué)校、平臺(tái)協(xié)同保護(hù)之外，還需要行業(yè)協(xié)會(huì)等社會(huì)機(jī)構(gòu)形成良好的商業(yè)慣例，提前設(shè)置未成年人特殊保護(hù)機(jī)制，比如嚴(yán)格落實(shí)實(shí)名制、增設(shè)風(fēng)險(xiǎn)提示等。