來源：人民日報

監(jiān)管部門主動作為，全社會共同發(fā)力，推進綜合治理

有效規(guī)范算法應用 營造清朗網絡空間（法治頭條·法治護航網絡文明建設③）

本報記者 金 歆

隨著網絡技術快速發(fā)展，算法應用日漸廣泛。與此同時，有的互聯(lián)網服務平臺濫用算法，可能造成的“信息繭房”“大數據殺熟”“誘導沉迷”等問題也日益受到社會關注。

不久前，《互聯(lián)網信息服務算法推薦管理規(guī)定》正式施行；4月8日起，中央網信辦牽頭開展“清朗·2022年算法綜合治理”專項行動……過去一個時期，監(jiān)管部門主動作為，全社會共同發(fā)力，算法亂象得到有效整治，算法應用日益朝著向上向善的軌道發(fā)展。

算法濫用，對公眾產生不利影響

李明（化名）下載了一個以“知識分享”為主題的APP。打開后，一篇標記著“您可能感興趣”的文章被推送至界面。

“這不恰好是我最關注的話題嗎？”李明點進去一看，文章的觀點“恰好”與自己的十分一致，讓李明感覺“有理有據，令人信服”。李明看完一篇，系統(tǒng)又推薦了另一篇他感興趣的文章。不知不覺，李明竟在該APP上一連“刷”了幾個小時。

“這就是算法推薦的作用。”某公司軟件工程師黃淑介紹，平臺會抓取用戶觀看某話題總體評價的停留時間、留言時是正面還是負面傾向、“點贊”還是“反對”等信息來判定用戶的內容偏好。此后，平臺還會利用算法依據“內容相似度”和“用戶相似度”，把你最可能感興趣的內容推薦給你。

那么算法推薦的大規(guī)模使用，是否會對公眾產生不利影響？

“算法推薦的個性化分發(fā)技術，較多地依賴總體熱度、個體興趣等數據?！睆偷┐髮W新聞學院副院長、教授周葆華介紹，目前對算法推薦的擔憂主要在于：一方面平臺追求更大傳播熱度，形成對內容價值觀的忽視，如推薦低俗內容；另一方面基于對個性化興趣和朋友關系的計算，信息推送與觀點供給可能形成“回音室”效應，從而讓用戶深陷“信息繭房”中。

胡女士通過某APP向某酒店預訂一個房間，支付價格近3000元?？扇胱『蟛虐l(fā)現，該房型的實際掛牌價僅1000多元。作為該平臺“鉆石貴賓客戶”，胡女士非但沒有享受到會員優(yōu)惠，還支付了高于實際產品價格的費用。胡女士認為自己遭遇了“大數據殺熟”。她懷疑平臺利用算法進行用戶“畫像”，根據自己對價格不敏感、不索要發(fā)票等消費習慣，抬高價格，欺詐銷售，遂將該平臺公司訴至法院。

據介紹，利用算法進行“大數據殺熟”的情形現實中不少見。例如購買同一班飛機票，自己花了上千元，別人同時購買卻只花了幾百元，這可能只是因為你已經是平臺“熟客”，不再需要低價吸引等。

此外，算法推薦還存在諸多其他問題。一些外賣等服務平臺采用調度決策類算法進行工作調度時，過度追求工作效率和強度，按照最短可能用時設置配送員的配送時限，讓“外賣小哥”為了按時送達而不得不超速、逆行等；有些平臺還存在偏見歧視問題，將違法和不良信息關鍵詞記入用戶興趣點；某些應用程序設置算法未經允許抓取用戶個人信息……

“有效治理算法亂象，是構建安全清朗的網絡生態(tài)的必然要求?！敝袊ù髮W副教授鄭玉雙表示，要健全算法的法律規(guī)制模式，破解算法的法律規(guī)制難題，實現算法善治。

建章立制，為算法立規(guī)矩樹導向

不久前，胡女士“大數據殺熟”一案終審判決。兩審法院均認為，平臺公司未依法告知關系訂單交易的真實信息，怠于對平臺內經營者進行有效監(jiān)管，構成欺詐，遂判定該平臺公司退還胡女士訂房差價并支付賠償金。但是，法院并未對平臺公司是否構成“大數據殺熟”予以認定。

“利用算法針對不同消費者設置不同價格的行為是否違法，有時難以判斷?！敝袊▽W會法治研究所研究員劉金瑞認為，出現這種現象，主要是因為此前法律法規(guī)對于算法亂象的規(guī)制比較零散，有的規(guī)定針對性不強。

社會有期待，立法機關及時作出回應。

個人信息是實現算法推薦的基礎。2021年11月1日，個人信息保護法實施。其中“大數據殺熟”等問題一時成為人們關注的熱點。個人信息保護法明確規(guī)定：個人信息處理者利用個人信息進行自動化決策，應當保證決策的透明度和結果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇。

“個人信息保護法等法律實現了對‘大數據殺熟’等算法濫用現象的限制，但目前各類算法亂象仍需一部專門、完整、系統(tǒng)的法規(guī)來進行全面規(guī)制?！敝袊鴤髅酱髮W文化產業(yè)管理學院教授劉文杰說，從全過程完善算法推薦的有關規(guī)范，是從根本上加強算法規(guī)制的客觀要求。

今年3月1日，由國家互聯(lián)網信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布的《互聯(lián)網信息服務算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）施行。這是第一部從全過程完整規(guī)范算法推薦的部門規(guī)章。其中明確了算法知情權、算法選擇權等對算法推薦服務提供者的用戶權益保護要求，對社會關注的“大數據殺熟”“引誘沉迷”“引導輿論”“特殊群體保護”等熱點問題，都做出了針對性規(guī)范。

“《規(guī)定》是第一部系統(tǒng)、全面以算法為調整對象的規(guī)范性法律文件。從體系性、規(guī)制工具箱的豐富性、調整算法的多樣性、對用戶權益保護的周全性等多個層面來說，《規(guī)定》都具有開創(chuàng)性意義?！敝袊ù髮W教授張凌寒表示。

“《規(guī)定》與個人信息保護法、電子商務法、數據安全法等法律相銜接，再配合近年來頒布的關于平臺經濟領域的反壟斷指南、在線旅游經營服務管理暫行規(guī)定等規(guī)范性文件，規(guī)制算法亂象有了較為完備的制度體系?！敝袊畔⑼ㄐ叛芯吭夯ヂ?lián)網法律研究中心高級研究員楊婕說。

多元共治，引導算法向上向善

算法廣泛而深入地應用于互聯(lián)網，因此，算法治理絕不是憑一家之力就能實現的，必須全社會攜手，建立多元共治的局面。

監(jiān)管部門及時有效的政策舉措，是規(guī)制算法亂象的有力武器。2022年3月1日起，互聯(lián)網信息服務算法備案系統(tǒng)正式上線運行。根據相關要求，具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起10個工作日內填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告等信息。

4月8日起，中央網信辦牽頭開展“清朗·2022年算法綜合治理”專項行動，深入排查整改互聯(lián)網企業(yè)平臺算法安全問題，重點檢查具有較強輿論屬性或社會動員能力的大型網站、平臺及產品等。

在算法治理過程中，司法發(fā)揮著引導行為、明確底線、穩(wěn)定預期的重要作用。

前不久，一影視公司發(fā)現某視頻平臺在無授權的情況下，播放其享有完整著作權的電影，認為該平臺構成侵權，遂將其訴至法院。該視頻平臺公司辯稱，電影是平臺用戶自行上傳的，其推薦行為系平臺自帶的算法推薦所致，并沒有侵權的意圖。

法院經審理認為，該視頻平臺公司的上述算法推薦行為，實際上是向用戶提供了信息流推薦服務，存在提高侵權傳播效率、擴大侵權傳播范圍的風險，同時也為其自身獲得了更多的流量等利益，其理應對用戶的侵權行為負有更高的注意義務。

“近年來，數起涉及算法推薦的司法案件引起社會關注，相關判決起到了為算法應用立規(guī)矩、樹導向的作用?！蔽髂险ù髮W副教授易健雄說。

此外，平臺企業(yè)的行業(yè)自律也必不可少。

2021年10月22日，深圳市APP個人信息共護大會舉行。20余家重點APP運營企業(yè)簽署《深圳市APP個人信息保護自律承諾書》，承諾將保護用戶公平交易權，不利用大數據“殺熟”；未經用戶單獨同意，不利用敏感個人信息進行線上精準營銷和線下推銷等。此前，國內10家互聯(lián)網平臺企業(yè)也簽署承諾書，承諾不非法收集、使用消費者個人信息，不利用數據優(yōu)勢“殺熟”。

此外，越來越多的網絡平臺也在積極主動地對算法“激濁揚清”。例如，某信息聚合平臺日前介紹，其為了幫助用戶避免越推越窄的“繭房效應”，不斷優(yōu)化推薦機制、提高內容推薦的多樣性，擴大信息覆蓋面；某外賣平臺也優(yōu)化派單算法，充分考慮配送員實際工作環(huán)境，避免其承受過重工作負擔，維護勞動者合法權益。

建章立制，強化監(jiān)管，鼓勵自律……運用法治方法規(guī)范算法應用，引導算法向上向善，才能最大化促進社會公共利益，共同營造清朗安全的網絡空間。