規(guī)制算法推薦強(qiáng)化個(gè)人信息保護(hù)合規(guī)管理
劉沛豪
□企業(yè)應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，制定并公開算法推薦服務(wù)相關(guān)規(guī)則，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。
2021年12月31日，國(guó)家網(wǎng)信辦、工信部、公安部、市場(chǎng)監(jiān)督管理局四部門聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下稱《算法推薦管理規(guī)定》），針對(duì)在我國(guó)境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)服務(wù)所應(yīng)當(dāng)遵循的合規(guī)要求作出了明確規(guī)定。該規(guī)定的發(fā)布對(duì)于督促算法推薦服務(wù)提供者合理合規(guī)地應(yīng)用算法，凈化行業(yè)風(fēng)氣，促進(jìn)良性發(fā)展，有效維護(hù)用戶合法權(quán)益具有重大意義，對(duì)推動(dòng)相關(guān)企業(yè)合規(guī)工作也具有十分重要的作用。
強(qiáng)化規(guī)制算法推薦的必要性
一段時(shí)間以來(lái)，“大數(shù)據(jù)殺熟”、算法歧視、誘導(dǎo)沉迷等算法不合理應(yīng)用導(dǎo)致的問(wèn)題頻頻發(fā)生，引發(fā)了社會(huì)關(guān)注，因此，制定針對(duì)性的算法推薦管理規(guī)定，明確算法推薦服務(wù)提供者的主體責(zé)任及安全管理義務(wù)就顯得極為必要。
據(jù)中國(guó)消費(fèi)者協(xié)會(huì)公布的信息，網(wǎng)絡(luò)領(lǐng)域涉及消費(fèi)者權(quán)益的算法應(yīng)用問(wèn)題主要有6種：推薦算法、價(jià)格算法、評(píng)價(jià)算法、排名算法、概率算法和流量算法。其中，價(jià)格算法就是飽受消費(fèi)者詬病的“不同人不同價(jià)”。2021年7月，就某在線旅行服務(wù)公司針對(duì)老客戶價(jià)格失實(shí)、無(wú)法說(shuō)明價(jià)格差別理由的“大數(shù)據(jù)殺熟”第一案，浙江省某法院判決該公司賠償原告訂房差價(jià)并按房費(fèi)差價(jià)部分的三倍支付賠償金，且在其運(yùn)營(yíng)的旅行App中為原告增加不同意其現(xiàn)有《服務(wù)協(xié)議》和《隱私政策》仍可繼續(xù)使用App的選項(xiàng)，或者為原告修訂其旅行App的《服務(wù)協(xié)議》和《隱私政策》，去除對(duì)用戶非必要信息采集和使用的相關(guān)內(nèi)容。
推薦算法的違規(guī)情形也比較常見，如App運(yùn)營(yíng)者通過(guò)分析用戶瀏覽過(guò)的頁(yè)面、廣告、商品、話題等有針對(duì)性地進(jìn)行商業(yè)營(yíng)銷，如果未能充分告知并獲取用戶同意，則也是侵害用戶合法權(quán)益的行為。自2019年來(lái)國(guó)家工信部組織開展了App侵害用戶權(quán)益專項(xiàng)整治行動(dòng)工作，運(yùn)用推薦算法強(qiáng)制用戶使用定向推送功能也是被通報(bào)的問(wèn)題多發(fā)點(diǎn)。在通報(bào)的20個(gè)批次中，工信部層面通報(bào)的App數(shù)量總數(shù)為1212款，存在“強(qiáng)制用戶使用定向推送功能”的違規(guī)App數(shù)量達(dá)112款，占比為9.24%，而“強(qiáng)制用戶使用定向推送功能”在所有被關(guān)注的違規(guī)問(wèn)題中排名前列。
通過(guò)總結(jié)既有的違規(guī)案例，可以發(fā)現(xiàn)當(dāng)前在算法推薦的違規(guī)場(chǎng)景中存在的問(wèn)題主要包括如下情形：（1）未在隱私政策中對(duì)用戶畫像、個(gè)性化展示的應(yīng)用場(chǎng)景及對(duì)用戶可能造成的影響進(jìn)行說(shuō)明；（2）未取得用戶的明示同意；（3）基于用戶畫像向不滿十四周歲的未成年人進(jìn)行個(gè)性化推薦；（4）未提供非定向推送信息的選項(xiàng)；（5）未向用戶提供拒絕接收定向推送的選項(xiàng)；（6）未明示廣告發(fā)送者的真實(shí)身份和聯(lián)系方式；（7）以其他不合理的方式影響用戶正常使用服務(wù)；（8）使用非法的用戶標(biāo)簽，對(duì)用戶進(jìn)行歧視性或偏見性的設(shè)置和管理；（9）大數(shù)據(jù)殺熟。
個(gè)人信息保護(hù)合規(guī)要求
個(gè)人信息保護(hù)法規(guī)定，通過(guò)計(jì)算機(jī)程序自動(dòng)分析、評(píng)估個(gè)人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等并進(jìn)行決策的活動(dòng)，屬于自動(dòng)化決策。毫無(wú)疑問(wèn)，利用生成合成類、個(gè)性化推送類、檢索過(guò)濾類等算法技術(shù)向用戶提供信息屬于自動(dòng)化決策的具體體現(xiàn)，因此，使用算法推薦，除遵守消費(fèi)者權(quán)益保護(hù)法、電子商務(wù)法的要求外，亦應(yīng)當(dāng)嚴(yán)格遵守個(gè)人信息保護(hù)法的要求。
根據(jù)個(gè)人信息保護(hù)法的規(guī)定，應(yīng)用算法推薦時(shí)應(yīng)當(dāng)注意：（1）保證決策的透明度和結(jié)果公平、公正，不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇；（2）應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式；（3）通過(guò)自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求個(gè)人信息處理者予以說(shuō)明，并有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。具體而言，提供算法推薦服務(wù)的企業(yè)應(yīng)當(dāng)在如下方面開展工作：
企業(yè)應(yīng)當(dāng)保障用戶知情權(quán)，在隱私政策等文件中向用戶明確說(shuō)明算法將使用到何種信息，如說(shuō)明使用的個(gè)人信息的類型、范圍，使用的具體目的和應(yīng)用程序，是否可能被第三方所使用，所使用個(gè)人信息的必要性，可能對(duì)用戶個(gè)人造成的影響。企業(yè)需要明確對(duì)基于自動(dòng)化決策作出的定向推送內(nèi)容設(shè)置明顯的、容易識(shí)別的標(biāo)識(shí)，并且與非定向推送內(nèi)容進(jìn)行區(qū)分；企業(yè)必須保障同時(shí)向用戶保留非定向推送的選項(xiàng)和內(nèi)容。企業(yè)還應(yīng)當(dāng)保障用戶的選擇權(quán)和拒絕權(quán)，向用戶提供便捷的拒絕方式，設(shè)置和提供簡(jiǎn)便的、易操作的關(guān)閉選項(xiàng)和用戶權(quán)限管理系統(tǒng)，將用戶權(quán)限設(shè)置頁(yè)面鏈接限制在4次點(diǎn)擊操作之內(nèi)。任何企業(yè)均不應(yīng)對(duì)用戶拒絕個(gè)性化信息推送或商業(yè)營(yíng)銷設(shè)置障礙、收取費(fèi)用或設(shè)定有效期限。
保障決策的透明度和結(jié)果的公正性也是算法推薦關(guān)注的重點(diǎn)，企業(yè)應(yīng)當(dāng)通過(guò)隱私政策、算法說(shuō)明等文件，對(duì)自動(dòng)化決策算法的原理、目的意圖、決策規(guī)則、可能產(chǎn)生的影響等信息進(jìn)行說(shuō)明，并從以下維度保證決策結(jié)果的公正性：參數(shù)設(shè)置是否科學(xué)、合理，用戶畫像是否公正、客觀、真實(shí)，決策規(guī)則設(shè)計(jì)是否科學(xué)、合理等。如為了防范“大數(shù)據(jù)殺熟”的風(fēng)險(xiǎn)，企業(yè)就應(yīng)當(dāng)明確對(duì)用戶實(shí)施交易價(jià)格、交易機(jī)會(huì)等交易條件上的差別待遇是否具有合理性。
此外，企業(yè)提供算法推薦服務(wù)，還應(yīng)當(dāng)尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德，遵循公正公平、公開透明、科學(xué)合理和誠(chéng)實(shí)信用的原則，倡導(dǎo)主流的價(jià)值導(dǎo)向，不得利用算法推薦服務(wù)從事危害國(guó)家安全和社會(huì)公共利益、擾亂經(jīng)濟(jì)秩序和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)，不得利用算法推薦服務(wù)傳播法律、行政法規(guī)禁止的信息，不得推薦歧視性信息、傳播虛假信息，不得規(guī)避監(jiān)管、實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為等。
企業(yè)合規(guī)實(shí)施路徑
從個(gè)人信息保護(hù)合規(guī)管理角度看，提供算法推薦服務(wù)的企業(yè)作為個(gè)人信息處理者，也應(yīng)當(dāng)落實(shí)個(gè)人信息保護(hù)法第51條的規(guī)定，在管理上要做到合規(guī)，如制定內(nèi)部管理制度和操作規(guī)程，對(duì)個(gè)人信息實(shí)行分類管理，采取相應(yīng)的加密、去標(biāo)識(shí)化等安全技術(shù)措施，合理確定個(gè)人信息處理的操作權(quán)限，并定期對(duì)從業(yè)人員進(jìn)行安全教育和培訓(xùn)，制定并組織實(shí)施個(gè)人信息安全事件應(yīng)急預(yù)案等等。具體而言，企業(yè)應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，制定并公開算法推薦服務(wù)相關(guān)規(guī)則，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。
算法推薦作為“利用個(gè)人信息進(jìn)行自動(dòng)化決策”的場(chǎng)景之一，亦需做好個(gè)人信息處理合規(guī)，事先進(jìn)行個(gè)人信息保護(hù)影響評(píng)估，并對(duì)處理情況進(jìn)行記錄。在進(jìn)行算法推薦時(shí)，企業(yè)應(yīng)當(dāng)做到，以隱私政策、彈窗等方式明確告知用戶，并且在業(yè)務(wù)功能、推薦內(nèi)容上以“推薦”“猜你喜歡”“定推”“根據(jù)你的搜索推薦”“根據(jù)你的興趣推薦”等字樣進(jìn)行顯著標(biāo)識(shí)；建立和完善合法合規(guī)的用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則，不得有違法和不良信息關(guān)鍵詞，不得有歧視性或者偏見性用戶標(biāo)簽，排除任何形式的強(qiáng)制、欺騙、誤導(dǎo)用戶使用個(gè)性化推薦，以及涉及殺熟、價(jià)格歧視等違規(guī)的系統(tǒng)設(shè)置。在下列業(yè)務(wù)場(chǎng)景中，企業(yè)在應(yīng)用算法推薦時(shí)應(yīng)當(dāng)保留相關(guān)記錄以證明其行為具備正當(dāng)性：（1）基于消費(fèi)者實(shí)際需求，且符合正當(dāng)?shù)慕灰琢?xí)慣和行業(yè)慣例，實(shí)行不同交易條件；（2）基于針對(duì)新用戶在合理期限內(nèi)開展的優(yōu)惠活動(dòng)；（3）基于平臺(tái)公平、合理、無(wú)歧視的規(guī)則實(shí)施的隨機(jī)性交易；（4）基于保障弱勢(shì)群體利益和安全而作出的限制或差異性對(duì)待；等等。
此外，《算法推薦管理規(guī)定》也設(shè)置了相應(yīng)的行政管理要求。網(wǎng)信部門會(huì)同電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門建立算法分級(jí)分類安全管理制度，根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類管理。提供算法推薦服務(wù)的企業(yè)如具有輿論屬性或者社會(huì)動(dòng)員能力，應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型等備案信息，履行備案手續(xù)。
總之，作為技術(shù)手段的算法推薦本身是中立的，運(yùn)用正確可以提高企業(yè)的經(jīng)營(yíng)效率，為用戶提供更具針對(duì)性、更優(yōu)質(zhì)的服務(wù)?！端惴ㄍ扑]管理規(guī)定》的發(fā)布是政府部門相互協(xié)調(diào)、細(xì)化監(jiān)管、完善治理的集中體現(xiàn)，有助于規(guī)范提供算法推薦服務(wù)的行為，保障市場(chǎng)公平有序競(jìng)爭(zhēng)，維護(hù)消費(fèi)者的合法權(quán)益。相關(guān)企業(yè)必須加強(qiáng)自律，深入開展合規(guī)工作，切實(shí)承擔(dān)應(yīng)盡的義務(wù)和責(zé)任，以守法經(jīng)營(yíng)助力行穩(wěn)致遠(yuǎn)。
（作者單位：北方工業(yè)大學(xué)）
編輯：哈建偉
京公網(wǎng)安備 11010502000576號(hào)