本刊記者 徐明皎

“最近買(mǎi)了一些吃的以后，現(xiàn)在推薦的都是好吃的?！?/p>

“‘猜你喜歡’竟然給我推薦了我上學(xué)的時(shí)候愛(ài)聽(tīng)的歌。”

個(gè)性化推薦可以幫助用戶快速找到感興趣的內(nèi)容，節(jié)約時(shí)間。但專(zhuān)家提示，個(gè)性化推薦算法也可能影響用戶的自主決定自由，引發(fā)“信息繭房”等問(wèn)題。

面對(duì)個(gè)性化推薦算法對(duì)消費(fèi)者知情權(quán)和自主選擇權(quán)可能造成的損害，專(zhuān)家建議，借助“守門(mén)人規(guī)則”，強(qiáng)化大型平臺(tái)經(jīng)營(yíng)者的審查義務(wù)。探索算法民事公益訴訟制度，助力消費(fèi)者維權(quán)。

個(gè)性化推薦涉嫌侵權(quán)

在某購(gòu)物App，加購(gòu)某款釣魚(yú)竿，在App首頁(yè)就會(huì)出現(xiàn)新的魚(yú)竿、魚(yú)鉤、折疊傘等相關(guān)產(chǎn)品推薦。據(jù)浙江大學(xué)光華法學(xué)院副教授林洹民介紹，個(gè)性化推薦算法借助對(duì)用戶數(shù)據(jù)的分析，推薦相應(yīng)的商品或服務(wù)，典型應(yīng)用如 “猜你喜歡” “每日音樂(lè)推送”等。

據(jù)了解，個(gè)性化推薦主要依據(jù)采集的用戶信息生成用戶畫(huà)像，再借助個(gè)性化推薦算法技術(shù)，從而實(shí)現(xiàn)個(gè)性化廣告/內(nèi)容的精準(zhǔn)投放，被廣泛應(yīng)用于購(gòu)物、生活等場(chǎng)景中。有研究表明，個(gè)性化推薦通過(guò)數(shù)據(jù)算法降低消費(fèi)者搜索難度，能提升消費(fèi)者購(gòu)買(mǎi)效率，提升用戶黏性。

林洹民提示，個(gè)性化推薦算法主動(dòng)分類(lèi)并高效率地推送趨同內(nèi)容，人們被包裹在自己感興趣的領(lǐng)域內(nèi)，大量接觸的是自己過(guò)去認(rèn)同的觀點(diǎn)和感興趣的書(shū)籍、影視作品等，與個(gè)人意見(jiàn)不同的聲音已經(jīng)被過(guò)濾。長(zhǎng)期生活在封閉的信息環(huán)境中，用戶會(huì)越來(lái)越沉溺于自己的“回音”，從而影響良好的價(jià)值觀念和健全人格的形成。

此前，也有研究者表示，基于興趣導(dǎo)向的算法個(gè)性化推薦，使得消費(fèi)者接觸信息趨于同質(zhì)化，削弱了消費(fèi)者的自主思考性。在此情況下，消費(fèi)者無(wú)法選擇自己想要獲取的信息、商品或服務(wù)，而只能任由算法操縱。

林洹民同樣認(rèn)為，個(gè)性化推薦算法影響了用戶的自主決定自由。“個(gè)性化推薦已然影響用戶意思的形成，用戶的選擇或同意并非真正源于個(gè)人意志?！绷咒∶裾f(shuō)。

廣西民族大學(xué)法學(xué)院教授蔣慧與該校研究生徐浩宇共同撰寫(xiě)的論文認(rèn)為，個(gè)性化推薦還會(huì)侵犯消費(fèi)者的知情權(quán)。平臺(tái)商家往往會(huì)借助其與消費(fèi)者之間的信息鴻溝，通過(guò)算法合謀剝削用戶，加速壟斷行為。此外，個(gè)性化推薦還可能帶來(lái)差異定價(jià)，引發(fā)“大數(shù)據(jù)殺熟”等問(wèn)題。

監(jiān)管規(guī)范不明晰不具體

面對(duì)個(gè)性化推薦帶來(lái)的隱憂，已有多項(xiàng)法律法規(guī)將其納入規(guī)范之中。2021年8月20日通過(guò)的《中華人民共和國(guó)個(gè)人信息保護(hù)法》第二十四條第二款規(guī)定：“通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷(xiāo)，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式。”

2021年12月31日，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門(mén)聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，加強(qiáng)對(duì)算法風(fēng)險(xiǎn)的全流程監(jiān)管。

然而，在林洹民看來(lái)，個(gè)人信息處理者與個(gè)人在信息、技術(shù)、經(jīng)濟(jì)等方面的能力是不對(duì)稱(chēng)的。他解釋說(shuō)，在一些場(chǎng)景中，個(gè)人并不能有效地識(shí)別風(fēng)險(xiǎn)和控制風(fēng)險(xiǎn)，法律需要采取其他規(guī)范模式，以補(bǔ)充個(gè)人自治模式的不足。

蔣慧和徐浩宇也認(rèn)為，礙于作為個(gè)體的消費(fèi)者與作為架構(gòu)工具的算法決策之間的邏輯障礙、知識(shí)差異等因素，消費(fèi)者對(duì)算法決策提出異議并予以質(zhì)疑甚至拒絕的空間十分有限。

以電商平臺(tái)為例，蔣慧和徐浩宇解釋說(shuō)：“倘若單純從外部對(duì)電商平臺(tái)經(jīng)營(yíng)者進(jìn)行個(gè)性化推薦算法歧視的規(guī)制，不僅存在監(jiān)管規(guī)范不明晰、不具體致使難以有效適用的困境，還會(huì)引起電商經(jīng)營(yíng)者的算法歧視‘隱蔽化’。因此，有必要探尋新的解決路徑?！?/p>

個(gè)人信息保護(hù)法已明確提出應(yīng)在個(gè)性化推薦的同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)或者提供便捷的拒絕方式，但實(shí)踐情況并不盡如人意。

記者調(diào)查發(fā)現(xiàn)，一些購(gòu)物App在安裝時(shí)，會(huì)提示需要了解用戶數(shù)據(jù)，用于個(gè)性化推薦，但該提示只能選擇繼續(xù)。默認(rèn)開(kāi)啟、關(guān)閉難是這些App的常見(jiàn)問(wèn)題。即使提供了關(guān)閉渠道，但因操作復(fù)雜、設(shè)置隱蔽，對(duì)部分用戶并不夠友好。

記者測(cè)試了幾款常用App，發(fā)現(xiàn)大多數(shù)App的關(guān)閉都需要進(jìn)行4步到5步的操作。而有關(guān)調(diào)研顯示，絕大多數(shù)用戶認(rèn)為最好把關(guān)閉步驟控制在1步到3步之間。

降低消費(fèi)者維權(quán)成本

借助“守門(mén)人規(guī)則”，限制避風(fēng)港原則的適用，要求平臺(tái)盡力優(yōu)化平臺(tái)內(nèi)的個(gè)性化推薦算法，強(qiáng)化超大型平臺(tái)經(jīng)營(yíng)者的審查義務(wù)。林洹民說(shuō)，個(gè)人信息保護(hù)法第五十八條規(guī)定了“守門(mén)人規(guī)則”，要求超大型平臺(tái)履行更為積極的信息安全義務(wù)。在傳統(tǒng)的“避風(fēng)港原則”中，平臺(tái)經(jīng)營(yíng)者只要在收到通知后采取刪除、屏蔽、斷開(kāi)鏈接等必要措施，就不需要承擔(dān)侵權(quán)責(zé)任。

他提出，平臺(tái)經(jīng)營(yíng)者可以在醒目位置提示使用個(gè)性化推薦算法的可能影響，平臺(tái)經(jīng)營(yíng)者還可以在平臺(tái)內(nèi)部增加 “一鍵關(guān)閉”個(gè)性化推薦的按鈕或鏈接，改變用戶不得不在各個(gè)應(yīng)用程序中艱難尋找關(guān)閉選項(xiàng)的現(xiàn)象。

“守門(mén)人規(guī)則還意味著平臺(tái)經(jīng)營(yíng)者應(yīng)當(dāng)自證已經(jīng)采取最大的努力規(guī)范平臺(tái)內(nèi)的算法活動(dòng)。” 林洹民表示，這將降低原告的舉證責(zé)任。

蔣慧和徐浩宇則建議，效仿環(huán)境公益訴訟制度，探索建立算法侵權(quán)公益訴訟制度，降低消費(fèi)者維權(quán)難度和成本。