如果說數(shù)據(jù)是數(shù)字經(jīng)濟(jì)時代的核心生產(chǎn)要素，那么算法則是推進(jìn)這一核心生產(chǎn)要素資產(chǎn)化和價值化的運行基礎(chǔ)。當(dāng)數(shù)字技術(shù)賦能各個領(lǐng)域，催生了新產(chǎn)品、新組織模式、新商業(yè)模式和新產(chǎn)業(yè)業(yè)態(tài)的同時，也帶來了諸如算法歧視、算法操縱、算法協(xié)同、算法黑箱等潛在風(fēng)險。不同類型的算法經(jīng)由設(shè)計和實施，其帶來的算法應(yīng)用潛在風(fēng)險不同，并可能導(dǎo)致政府失靈與市場失靈。

中國傳媒大學(xué)國際傳媒教育學(xué)院院長金雪濤認(rèn)為圍繞“治理主體—治理對象—治理工具措施”探索算法治理的體系架構(gòu)，可以融合多元主體協(xié)同、利益均衡和敏捷治理等三種機(jī)制，在元規(guī)制和全過程管理理念的基礎(chǔ)上優(yōu)化算法治理措施，推動三種機(jī)制并行。

“

核心觀點

算法應(yīng)用存在哪些潛在風(fēng)險？

1.算法歧視（Algorithmic Bias）；

2.算法操縱（Algorithmic Manipulation）；

3.算法協(xié)同（Algorithmic Collaboration）；

4.算法黑箱（Algorithmic Black Box）。

對算法應(yīng)用進(jìn)行治理存在哪些難點？

首先，算法應(yīng)用的過程中，人們知道“因和果”，卻難以了解過程，這種算法的不透明性源于數(shù)據(jù)安全性的考慮，也源于技術(shù)的專業(yè)性，更源于智能技術(shù)的應(yīng)用實現(xiàn)了“機(jī)器自我學(xué)習(xí)”，可以說算法的不透明性與生俱來，這給治理帶來了難題。

其次，算法的研發(fā)具有物理上的隱蔽性、算法的應(yīng)用具有廣泛的分散性，當(dāng)深度學(xué)習(xí)嵌入算法推動人的“決策”向機(jī)器讓渡，對算法潛在風(fēng)險的評估和責(zé)任主體的確認(rèn)就變得更為困難。

最后，算法的應(yīng)用基于各領(lǐng)域的平臺，平臺是聯(lián)接著不同主體的多邊市場，算法應(yīng)用涉及的潛在風(fēng)險既涉及個人用戶、平臺運營企業(yè)（平臺樞紐）和平臺參與企業(yè)，也涉及平臺上的數(shù)字勞動者和政府管理部門，算法治理主體和算法治理對象都是多元的，相較于其他領(lǐng)域的治理問題，算法治理的難度更大。

”

更多精彩觀點

從技術(shù)的角度看，算法是一個解決問題的計算過程，是一個包含算術(shù)運算、邏輯運算、關(guān)系運算的從輸入到輸出的程序；從社會學(xué)的角度看，算法是設(shè)計者與算法參數(shù)（運算過程）及算法對象之間的互動，這個互動過程也伴隨技術(shù)倫理問題的產(chǎn)生；從經(jīng)濟(jì)學(xué)的角度看，算法是完成對數(shù)據(jù)資源“輸入—輸出”的分析系統(tǒng)，提高生產(chǎn)力的同時也會影響生產(chǎn)關(guān)系。伴隨數(shù)字技術(shù)的普及應(yīng)用，社會體系中的微觀、中觀、宏觀等各層級無一不被嵌入算法的技術(shù)環(huán)境與契約環(huán)境之中。依靠機(jī)器學(xué)習(xí)的算法通過數(shù)據(jù)分析更精準(zhǔn)地掌握了需求側(cè)的偏好，極大地促進(jìn)了供給側(cè)的生產(chǎn)、管理與運營效率的提升。然而，算法在深度賦能社會經(jīng)濟(jì)生活方方面面的同時，也帶來了諸如算法歧視、算法操縱、算法共謀、算法黑箱等潛在風(fēng)險。

算法的技術(shù)中立性產(chǎn)品特點與算法應(yīng)用后“技術(shù)權(quán)力”濫用及壟斷的矛盾，促使我們重新審視算法應(yīng)用與潛在風(fēng)險之間的關(guān)系。我們需要深入分析算法應(yīng)用產(chǎn)生風(fēng)險的特征以及風(fēng)險產(chǎn)生的機(jī)理，本研究將從技術(shù)權(quán)力向資本權(quán)力和對公共資源控制轉(zhuǎn)化的角度闡釋算法應(yīng)用所導(dǎo)致的市場失靈與政府失靈。進(jìn)一步地，圍繞“治理主體—治理對象—治理工具措施”探索算法治理的體系架構(gòu)，提出融合多元主體協(xié)同、利益均衡和敏捷治理等三種機(jī)制，在元規(guī)制和全過程管理理念的基礎(chǔ)上優(yōu)化算法治理措施。

01 算法治理研究溯源

算法研究的總體趨勢。早在公元前1世紀(jì)，我國《周髀算經(jīng)》就對四分歷法進(jìn)行說明，同時用商高問答解釋了“勾三股四玄五”這一勾股定律的特例，已經(jīng)有了數(shù)學(xué)及算法的雛形。算法（Algorithm）一詞來自于波斯數(shù)學(xué)天才花剌子模名字的拉丁化，在他的書籍中不僅闡釋了如何將復(fù)雜的問題分解為更為簡單的部分并加以解決，也闡釋了沿用至今的“算數(shù)運算”“關(guān)系運算”等概念。此后在人類文明的進(jìn)程中，推進(jìn)幾何學(xué)系統(tǒng)化的歐幾里德算法、“軟件之母”Ada Byron的程序設(shè)計流程圖、抽象了數(shù)學(xué)計算過程的圖靈機(jī)，以及“Pascal創(chuàng)始者”Nicklaus Wirth提出的“算法+數(shù)據(jù)結(jié)構(gòu)=程序”等，每一次探索與進(jìn)步都堅實了算法的應(yīng)用基礎(chǔ)。當(dāng)人類從工業(yè)社會、信息化社會步入數(shù)字經(jīng)濟(jì)時代之后，依托高速互聯(lián)的網(wǎng)絡(luò)、大數(shù)據(jù)存儲及計算能力，算法已融入個人的吃穿住行、企業(yè)的生產(chǎn)運營和政府的公共治理之中。

筆者對2000年 2021年國內(nèi)外關(guān)于算法治理、算法規(guī)制的學(xué)術(shù)論文成果進(jìn)行檢索分析。國外文獻(xiàn)數(shù)據(jù)來自Web of Science核心合集數(shù)據(jù)庫，為了保證數(shù)據(jù)的全面性，利用專業(yè)檢索，構(gòu)造檢索式“TS=（algorithm*）AND TS=（governance OR regulation）”、選擇語言“English”、選擇文獻(xiàn)類型“Article”，選擇時間截至“2021年”，最終獲取到828篇國外文獻(xiàn)。國內(nèi)文獻(xiàn)數(shù)據(jù)來自中國知網(wǎng)，為了保證數(shù)據(jù)的全面性，利用專業(yè)檢索，構(gòu)造檢索式“SU=’算法’*（’治理’+’規(guī)制’）”，選擇CSSCI期刊為檢索范圍，選擇時間截至“2021年”，最終獲取到526篇國內(nèi)文獻(xiàn)。每年中外發(fā)表的論文數(shù)量變化的整體趨勢如圖1所示。綜合來看，國外的研究起步早于國內(nèi)，文章數(shù)量多于國內(nèi)。國內(nèi)外在算法治理領(lǐng)域的研究都是從2017年開始顯著增加，這與2016年是算法編輯超越人工編輯的拐點之年密切相關(guān)，更佐證了算法技術(shù)應(yīng)用廣度與深度不斷拓展的現(xiàn)實。

聚焦國內(nèi)算法治理問題，研究發(fā)現(xiàn)，國內(nèi)相關(guān)研究中最熱關(guān)鍵詞是“人工智能”，該關(guān)鍵詞節(jié)點的“原點”最大，代表算法治理中與人工智能相關(guān)的研究最多。在國內(nèi)研究排名前20的關(guān)鍵詞中，有5個詞與“算法”關(guān)聯(lián)，分別是算法歧視、算法風(fēng)險、算法規(guī)制、算法權(quán)力和算法倫理，說明學(xué)術(shù)界非常關(guān)注算法風(fēng)險的成因、算法風(fēng)險的類型和治理措施探索；有6個詞與“治理”關(guān)聯(lián)，分別是“治理”、“數(shù)據(jù)治理”、“社會治理”、“協(xié)同治理”、“技術(shù)治理”和“政治治理”，這說明當(dāng)前針對算法應(yīng)用的治理問題研究不是只停留在微觀層面，也在中觀和宏觀層面都有所涉及。

算法治理的研究重點。國內(nèi)外關(guān)于算法治理的相關(guān)研究主要聚焦在傳播學(xué)、社會學(xué)、政治經(jīng)濟(jì)學(xué)、經(jīng)濟(jì)學(xué)和法學(xué)等領(lǐng)域，表1列示了代表性學(xué)者的研究觀點。

從傳播學(xué)的視角看，算法的直接影響是產(chǎn)生信息繭房（Information Cocoons）、回聲室效應(yīng)（Echo Chamber）和信息過濾泡（Filter Bubble）。這三個概念均指因算法支撐的數(shù)據(jù)分析及內(nèi)容精準(zhǔn)推送，在無形的網(wǎng)絡(luò)空間中打造了相對封閉、高度同質(zhì)化的信息空間，人們的視界被熟悉的內(nèi)容和思維所限制并進(jìn)一步固化，甚而這種固有之見會被推向極端形成群體極化（Group Polarization）。

從社會學(xué)和政治經(jīng)濟(jì)學(xué)的視角看，盡管算法技術(shù)并非數(shù)字鴻溝、數(shù)字勞動、個人隱私保護(hù)等問題存在的唯一因素，但算法應(yīng)用使得橫亙在互聯(lián)網(wǎng)觸達(dá)者和互聯(lián)網(wǎng)無法觸達(dá)者之間的橫向數(shù)字鴻溝，政府、企業(yè)、個人等在縱向管理關(guān)系上因?qū)?shù)據(jù)（信息）掌握程度和決策能力不同而導(dǎo)致的縱向數(shù)字鴻溝等更加顯著；算法應(yīng)用也令有酬和無酬的數(shù)字勞動者的勞動付出被機(jī)器判斷與指令控制，從而數(shù)字勞動被進(jìn)一步商品化和資本化；算法應(yīng)用也會因隱私（數(shù)據(jù)）主體喪失了控制權(quán)從而產(chǎn)生隱私泄漏等風(fēng)險。

從經(jīng)濟(jì)學(xué)的角度看，泛在的網(wǎng)絡(luò)平臺是數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施，也是數(shù)字生產(chǎn)要素利用與配置的場域，更是算法得以應(yīng)用產(chǎn)生價值增值的舞臺。傳統(tǒng)經(jīng)濟(jì)中企業(yè)通過協(xié)議或相互暗示可以形成策略行為的共謀，以限制競爭實現(xiàn)合作集團(tuán)內(nèi)部利益最大化。數(shù)字經(jīng)濟(jì)和人工智能環(huán)境下，算法應(yīng)用更有助于網(wǎng)絡(luò)平臺通過收集個人或企業(yè)的基礎(chǔ)信息及行為信息，通過加工分析而洞悉平臺上的價格趨勢、產(chǎn)品結(jié)構(gòu)以及各類參與方的行為特征，令共謀行為更易達(dá)成?；趥€人用戶基礎(chǔ)數(shù)據(jù)和行為數(shù)據(jù)分析的算法，還可以針對個人用戶的偏好實施動態(tài)的價格歧視或服務(wù)歧視，剝奪了更多的消費者剩余。

從法學(xué)的角度看，中外學(xué)者對算法權(quán)力的形成及其對社會資源和數(shù)據(jù)的控制作用進(jìn)行了分析，同時對算法權(quán)力嵌入商業(yè)領(lǐng)域、嵌入公權(quán)力程序所形成的異化風(fēng)險提出了警示，從立法的角度考慮了治理的架構(gòu)與措施。

伴隨大數(shù)據(jù)分析技術(shù)的升級與智能技術(shù)的普及，算法應(yīng)用帶來的風(fēng)險隱患受到了廣泛關(guān)注，很多國家政府通過立法和標(biāo)準(zhǔn)制定對算法應(yīng)用的相關(guān)領(lǐng)域進(jìn)行實質(zhì)維度的治理與監(jiān)管，不同行業(yè)、企業(yè)也通過建立算法應(yīng)用的倫理指南來實現(xiàn)自我規(guī)制。

02 算法應(yīng)用的潛在風(fēng)險及形成機(jī)理

算法應(yīng)用的潛在風(fēng)險。1.算法歧視（Algorithmic Bias）。算法歧視是指通過數(shù)字自動化決策，特定條件的數(shù)據(jù)分析導(dǎo)致對特定數(shù)據(jù)主體產(chǎn)生基于性別、價格及其他條件的不公正對待，濫用排序、大數(shù)據(jù)殺熟等都是算法歧視的直接表現(xiàn)。算法歧視可能是源于算法設(shè)計者的文化差異、判斷差異、目的差異，也可能源于算法使用過程中意外出現(xiàn)的突發(fā)結(jié)果。不管是哪一種情況，算法歧視都會產(chǎn)生偏見強(qiáng)化、消費者剩余被蠶食、個人自主選擇被剝奪等不利影響。

現(xiàn)實生活中，經(jīng)常使用打車APP的人和使用外賣平臺APP的會員，他們訂車或訂外賣支付的金額有時反而會比不經(jīng)常使用的人更高；又比如企業(yè)在專業(yè)招聘平臺上招人，會存在因算法歧視而導(dǎo)致選擇范圍過窄等問題。根據(jù)2019年北京消費者協(xié)會的社會調(diào)查數(shù)據(jù)，有56.92%的被調(diào)查者有過被大數(shù)據(jù)“殺熟”的經(jīng)歷；調(diào)查還顯示購物類、旅游類、打車類等平臺APP均存在著大數(shù)據(jù)“殺熟”現(xiàn)象（劉朝，2022）。

2.算法操縱（Algorithmic Manipulation）。算法操縱是指當(dāng)算法部分（或全部）替代“人”成為發(fā)出指令和進(jìn)行決策的主體時，數(shù)據(jù)（信息、隱私）的所有者、企業(yè)決策主體、勞動主體喪失了控制權(quán)，會造成信息繭房、回音室效應(yīng)、信息過濾泡以及隱私泄漏等問題。

針對消費者的算法操縱包括新聞、文娛、廣告等推送主要依靠對用戶行為的數(shù)據(jù)分析，算法推斷用戶偏好并只呈現(xiàn)該種類內(nèi)容，比如Facebook的新聞投喂算法（News Feed Algorithm），這使得信息繭房、回音室效應(yīng)、信息過濾泡等構(gòu)筑“信息隔離空間”的效能大大增強(qiáng)；與此同時，在算法操縱對個人用戶基本數(shù)據(jù)和行為數(shù)據(jù)的收集、分析、預(yù)測和使用過程中，因數(shù)據(jù)（信息、隱私）主體喪失了控制權(quán)，有可能導(dǎo)致個人數(shù)據(jù)或隱私被泄漏和不當(dāng)利用。

針對勞動者的算法操控，最直接的表現(xiàn)就是對數(shù)字勞動的“剝削”。作為工具革命代表的算法能夠?qū)?shù)字勞動的價值精準(zhǔn)計量和控制，比如外賣騎手走哪條線路能夠最有效率地送出外賣，粉絲收看視頻的完播率、轉(zhuǎn)發(fā)數(shù)量和評論數(shù)量能夠創(chuàng)造多少流量價值等。數(shù)字技術(shù)通過對數(shù)字勞動的屬性、行為計算出最佳方案，并以一種可見或不可見的方式推進(jìn)各類數(shù)字勞動去“行動”，數(shù)字勞動所創(chuàng)造的信息內(nèi)容、流量以及生產(chǎn)效率，部分或全部地?zé)o償參與資本擴(kuò)張與增值過程。

針對同業(yè)競爭者的算法操縱集中地體現(xiàn)在網(wǎng)絡(luò)平臺通過算法設(shè)置條件，控制搜索結(jié)果或排名呈現(xiàn)，構(gòu)筑了市場進(jìn)入壁壘，當(dāng)然算法操縱也會導(dǎo)致同業(yè)競爭企業(yè)的數(shù)據(jù)（信息）被泄漏或不當(dāng)利用。算法操縱破壞了公平競爭，同時也給消費者帶來了不良體驗。比如韓國最大的搜索引擎Naver在2020年利用搜索服務(wù)禁止其內(nèi)容供應(yīng)商與它的競爭對手合作，并將自己的產(chǎn)品設(shè)置在搜索結(jié)果的高排名中，將競爭對手的產(chǎn)品設(shè)置在低排名中，這種既欺騙消費者又阻礙公平競爭的行為被韓國公平貿(mào)易委員會（Korea Fair Trade Commission, KFTC）罰款280.2億韓元。

3.算法協(xié)同（Algorithmic Collaboration）。協(xié)同行為（共謀行為）是在特定產(chǎn)業(yè)中多個企業(yè)通過協(xié)議或暗示，采取共同限制價格、限制產(chǎn)量、控制銷售渠道等一致性行為來壓制競爭，獲得超額壟斷利潤的策略。在數(shù)字經(jīng)濟(jì)時代，數(shù)據(jù)、算法、算力已經(jīng)貫穿了所有的生產(chǎn)要素和各類社會經(jīng)濟(jì)活動，基于互聯(lián)網(wǎng)平臺的運營企業(yè)和平臺內(nèi)參與企業(yè)均有能力對消費者、競爭同行的大數(shù)據(jù)進(jìn)行收集與分析，并可自動地形成在價格、服務(wù)標(biāo)準(zhǔn)或產(chǎn)量上的共謀。

英國學(xué)者阿里爾·扎拉奇（Ariel Ezrachi）和莫里斯·E·斯圖克（Maurice E. Stucke）將算法協(xié)同（共謀）分為四類：1）信使型共謀是通過分享算法傳遞的信息達(dá)成對價格或銷售條件等的共謀，算法的角色類似“信使”；2）軸輻型共謀最為常見，是指作為平臺的運營企業(yè)（平臺樞紐）利用算法形成價格指導(dǎo)（車軸），協(xié)同平臺其他參與企業(yè)（輻條）形成上下游縱向共謀，或作為平臺參與企業(yè)（輻條）之間在平臺樞紐的影響形成下游橫向的共謀，從而封閉市場成立，限制了競爭；3）預(yù)測型共謀需要依靠更智能的算法，由算法（特別是價格算法）充當(dāng)企業(yè)高管的代理人角色，動態(tài)監(jiān)控市場價格的變化，通過信息差來獲得定價優(yōu)勢；4）自主型共謀是在機(jī)器學(xué)習(xí)不斷深化的過程中，算法可以完成自我學(xué)習(xí)與自我決策的不斷優(yōu)化，形成了自動探索優(yōu)化利潤的路徑，從而成為操縱市場的力量，盡管目前自主型共謀還處于概念和實驗階段，但其危害值得我們更多關(guān)注。

在現(xiàn)實中，亞馬遜網(wǎng)站上的書商因定價算法設(shè)計上的漏洞，其銷售的書籍定價追隨用戶的留言與評價機(jī)械地發(fā)生并無限循環(huán)，導(dǎo)致一本普通的生物遺傳學(xué)教科書的定價高達(dá)2000多萬美金，這是信使型共謀的典例；2016年歐盟法院審理的E-Turas案是E-Turas這家線上旅游預(yù)訂系統(tǒng)通過對所有會員單位的報價信息分析，自動將折扣限制在3%以內(nèi)，而不論成員單位的自我價格折扣是多少，這是一種典型的軸輻型共謀。

4.算法黑箱（Algorithmic Black Box）?！昂谙洹笔且环N隱喻，指存在于人工智能深度學(xué)習(xí)的輸入與輸出之間，難以為外界所觀察和理解的隱層。算法設(shè)計者和算法應(yīng)用者作為專業(yè)人士對算法內(nèi)容和機(jī)制會有更多了解，但非專業(yè)人士只能觀察到算法系統(tǒng)的輸入與輸出，很難掌握算法的內(nèi)容與邏輯。算法“黑箱”對多數(shù)主體或個人是具有不透明性和不公開性的，這種不透明性和不公開性必然導(dǎo)致數(shù)據(jù)（信息）的不可控，而數(shù)據(jù)（信息）的不可控又加劇了輸出結(jié)果與事實相悖、或算法決策責(zé)任性缺失，關(guān)聯(lián)地或可能侵犯公眾知情權(quán)和自主決策權(quán)，威脅個人信息安全，甚至可能引發(fā)公共數(shù)據(jù)資源的使用危機(jī)。算法黑箱也使算法歧視、算法操縱和算法共謀等以更隱蔽的狀態(tài)產(chǎn)生風(fēng)險蔓延。

算法應(yīng)用存在風(fēng)險的機(jī)理。OECD將算法分為四類：一是“監(jiān)控式算法”（Monitoring Algorithms），指按既定目標(biāo)，利用數(shù)據(jù)（內(nèi)容信息）爬取技術(shù)，通過數(shù)據(jù)收集完成監(jiān)控過程，在監(jiān)控式算法使用過程中，“人”是發(fā)出指令的控制主體和進(jìn)行決策的主體，算法只是工具；二是“平行式算法”（Parallel Algorithms），依然是根據(jù)既定目標(biāo)通過特定算法對數(shù)據(jù)進(jìn)行收集、分析和監(jiān)控，“人”是發(fā)出指令的控制主體，但通過算法設(shè)計讓渡了部分“決策權(quán)”給算法；三是“信號式算法”（Signaling Algorithms），是在算法對數(shù)據(jù)收集、分析和預(yù)測的基礎(chǔ)上，按照設(shè)計程序可以自動發(fā)布信號和處理信號，此類算法已開始對“人發(fā)出指令和進(jìn)行決策的功能”產(chǎn)生部分的替代；四是“自我學(xué)習(xí)式算法”（Self-learning Algorithms），是在人工智能的相關(guān)技術(shù)加持下，擁有智能認(rèn)知的算法可以實現(xiàn)從發(fā)出指令到完成決策的全過程，具有了對“人發(fā)出指令和進(jìn)行決策的功能”完全替代的可能性。

不同類型的算法經(jīng)由設(shè)計和實施，對算法應(yīng)用潛在風(fēng)險影響不同（如圖2所示）：監(jiān)控式算法不存在發(fā)出指令和完成決策的機(jī)器替代，主要功能是收集和分析數(shù)據(jù)，并產(chǎn)生導(dǎo)向型的數(shù)據(jù)輸出，因此它是產(chǎn)生基于基礎(chǔ)數(shù)據(jù)和基于行為數(shù)據(jù)的算法歧視的主要助力，同時監(jiān)控式算法也會加劇信息繭房、回聲室效應(yīng)、信息過濾泡和信使型共謀所產(chǎn)生的風(fēng)險；平行式算法的指令發(fā)出主體仍然是人，但部分決策控制權(quán)出現(xiàn)向算法的轉(zhuǎn)移，這種算法的輸出背離事實的可能性會推動基于行為數(shù)據(jù)的算法歧視產(chǎn)生、信息過濾泡的構(gòu)建、個人隱私和公共數(shù)據(jù)的泄漏等，平行式算法的自動分析與決策過程也便利了軸輻型共謀的達(dá)成；信號式算法已開始對“人發(fā)出指令和進(jìn)行決策的功能”產(chǎn)生部分的替代，因此與算法對象間的互動更為密切，對于具主動性的數(shù)字勞動進(jìn)行控制、形成預(yù)測型共謀和算法黑箱，信號式算法更有效率；自我學(xué)習(xí)式算法更加智能，算法能夠獨立完成發(fā)出指令并優(yōu)化決策，因此基于機(jī)器學(xué)習(xí)的自主型共謀和更高難度的算法黑箱有了實施支撐。

當(dāng)作為技術(shù)的算法，通過數(shù)據(jù)分析和輸出結(jié)果導(dǎo)向?qū)?jīng)濟(jì)活動或社會活動主體的決策與行為產(chǎn)生了一定程度的支配力與控制力，特別是智能技術(shù)的深入融合不斷增強(qiáng)算法的自我學(xué)習(xí)能力，算法可以部分甚至完全替代人這個主體“發(fā)出指令”“完成決策”，進(jìn)一步地算法對生產(chǎn)力和生產(chǎn)關(guān)系都會產(chǎn)生影響，從單純的技術(shù)工具逐漸轉(zhuǎn)變?yōu)榫哂兄黧w性的“技術(shù)權(quán)力者”。而當(dāng)這種技術(shù)權(quán)力與商業(yè)程序相結(jié)合時，形成了“算法（技術(shù)權(quán)力）——數(shù)據(jù)收集、分析與結(jié)果輸出——經(jīng)濟(jì)資源控制+行為影響——社會利益分配重構(gòu)（資本權(quán)力）——市場失靈”的作用機(jī)制路徑；當(dāng)這種技術(shù)權(quán)力與行政程序相結(jié)合時，則有可能導(dǎo)致“算法（技術(shù)權(quán)力）——數(shù)據(jù)收集、分析與結(jié)果輸出——公共資源（含數(shù)據(jù)／信息）控制——政府失靈”的作用機(jī)制路徑。

03 算法應(yīng)用治理體系構(gòu)建

對算法應(yīng)用進(jìn)行治理的難點。算法其實是一種分析利用數(shù)據(jù)的智能手段，它將數(shù)據(jù)輸入（原因）通過既定的程序變?yōu)閿?shù)據(jù)輸出（結(jié)果）。首先，算法應(yīng)用的過程中，人們知道“因和果”，卻難以了解過程，這種算法的不透明性源于數(shù)據(jù)安全性的考慮，也源于技術(shù)的專業(yè)性，更源于智能技術(shù)的應(yīng)用實現(xiàn)了“機(jī)器自我學(xué)習(xí)”，可以說算法的不透明性與生俱來，這給治理帶來了難題。其次，算法的研發(fā)具有物理上的隱蔽性、算法的應(yīng)用具有廣泛的分散性，當(dāng)深度學(xué)習(xí)嵌入算法推動人的“決策”向機(jī)器讓渡，對算法潛在風(fēng)險的評估和責(zé)任主體的確認(rèn)就變得更為困難。最后，算法的應(yīng)用基于各領(lǐng)域的平臺，平臺是聯(lián)接著不同主體的多邊市場，算法應(yīng)用涉及的潛在風(fēng)險既涉及個人用戶、平臺運營企業(yè)（平臺樞紐）和平臺參與企業(yè)，也涉及平臺上的數(shù)字勞動者和政府管理部門，算法治理主體和算法治理對象都是多元的，相較于其他領(lǐng)域的治理問題，算法治理的難度更大。

算法應(yīng)用治理體系構(gòu)建。1.算法治理體系的構(gòu)成要件?；谒惴ㄖ卫碇黧w和對象的多元特點，算法治理的復(fù)雜性，算法治理需要構(gòu)建體系。這需要厘清治理主體與治理對象之間的關(guān)系和職責(zé)，同時考慮市場失靈和政府失靈的雙重影響，通過治理主體的一系列工具措施與治理對象之間形成有效的互動，實現(xiàn)治理目標(biāo)。算法治理體系的構(gòu)成要件包含治理主體、治理對象、治理工具與措施。

需要說明的是，算法治理的主體和治理對象并非截然分開的，算法治理主體有時與算法治理對象具有一致性。比如算法治理的主體包括相關(guān)政府部門、行業(yè)協(xié)會、第三方社會組織等，但這些主體也會使用算法進(jìn)行數(shù)字資源的使用與控制，所以要接受公眾的監(jiān)督；算法治理的對象如算法設(shè)計開發(fā)方、使用算法的平臺運營企業(yè)、平臺參與企業(yè)、公共組織等，也會采取自我規(guī)制來實現(xiàn)技術(shù)倫理責(zé)任。傳統(tǒng)的治理工具主要依賴于政府干預(yù)（外部規(guī)制）和自我治理（自我規(guī)制）等具體措施工具，前者是治理主體通過治理工具與措施從外部設(shè)定標(biāo)準(zhǔn)等對治理對象進(jìn)行引導(dǎo)和監(jiān)管，比如市場準(zhǔn)入，技術(shù)標(biāo)準(zhǔn)，正面及負(fù)面清單等；后者是治理對象基于社會責(zé)任、倫理道德等對自身施以主動管理的行為，比如企業(yè)責(zé)任、技術(shù)和道德倫理原則等。算法治理主體通過外部治理、算法治理對象通過自我治理，以及近年來理論界與實踐界關(guān)注度不斷提高的對治理過程本身或治理主體的“元規(guī)制”，在明晰各類主體權(quán)責(zé)和應(yīng)承擔(dān)技術(shù)倫理責(zé)任的基礎(chǔ)上，形成多元化主體協(xié)同機(jī)制、利益均衡機(jī)制和敏捷治理機(jī)制，實現(xiàn)算法治理體系的穩(wěn)健運行。

2.算法治理體系的運行機(jī)制。一是多主體協(xié)同機(jī)制。算法治理首先需要相關(guān)政府部門采取由上而下的行政賦能，通過立法立規(guī)明晰不同算法應(yīng)用所涉及的各類主體的權(quán)責(zé)，通過系列的工具和措施來實現(xiàn)對算法的評估、對算法的問責(zé)、對算法的審計，建立責(zé)罰相當(dāng)?shù)闹卫砜蚣?。其次，厘清算法治理主體與治理對象間的關(guān)系，提高相關(guān)企業(yè)、社會組織和公眾對算法應(yīng)用的技術(shù)及倫理的認(rèn)知與理解，推動自下而上的多主體、多元化的參與進(jìn)程。在這樣的機(jī)制下，可以充分調(diào)動算法所涉及的各類主體的積極性與能動性，形成對公共部門作為單一治理主體的有益補(bǔ)充。

二是利益均衡機(jī)制。算法治理工作的目的是保障和實現(xiàn)公共利益，而公共利益意味著一定社會條件下或特定范圍內(nèi)不特定多數(shù)主體利益相一致。利益均衡首先要明確主體利益，然后建立主體利益規(guī)范機(jī)制。算法治理涉及的主體利益既包括用戶個體和數(shù)字勞動者的隱私權(quán)、他們對算法的知情權(quán)和要求解釋權(quán)，也包括算法設(shè)計者或控制方應(yīng)享有合法使用信息與數(shù)據(jù)的權(quán)利，以及在知識產(chǎn)權(quán)保護(hù)下獲得算法應(yīng)用的收益權(quán)，還包括公共部門合法使用算法的權(quán)利等。利益均衡機(jī)制需要依靠立法的權(quán)威和社會性的、經(jīng)濟(jì)性的規(guī)制手段來協(xié)調(diào)各方主體，在利益共存和相容的基礎(chǔ)上通過科學(xué)治理程序和具體治理工具解決制衡與保護(hù)等問題。

三是敏捷治理（Agile Governance）機(jī)制。如果說多主體協(xié)同機(jī)制與利益均衡機(jī)制更多地是從算法涉及的治理主體與治理對象的復(fù)雜性出發(fā)構(gòu)建治理體系的原則與基礎(chǔ)，那么敏捷治理機(jī)制則是從算法治理的效率與效果出發(fā)推動算法治理體系可持續(xù)運行。當(dāng)數(shù)字技術(shù)應(yīng)用超越了傳統(tǒng)治理體系范疇，敏捷治理機(jī)制是為應(yīng)對技術(shù)帶來的新風(fēng)險和新挑戰(zhàn)而開展的新型治理。敏捷治理機(jī)制依托“政府為核心+多元參與主體”的模式，通過跨部門合作形成自上而下與自下而上相結(jié)合的治理程序；從對需求的被動響應(yīng)轉(zhuǎn)向?qū)π枨蟮闹鲃禹憫?yīng)，從結(jié)果導(dǎo)向的治理轉(zhuǎn)向過程導(dǎo)向的治理，在不斷的自反性學(xué)習(xí)過程中，動態(tài)調(diào)整并優(yōu)化治理工具與措施。盡管敏捷治理在理論研究和實踐應(yīng)用中仍存在目標(biāo)與效果的差距，但不可否認(rèn)的是，集合各方力量、以迅速響應(yīng)和不斷自反性學(xué)習(xí)為原則的敏捷治理機(jī)制，可以有效地推進(jìn)算法治理中多主體協(xié)同與利益均衡的實現(xiàn)。

3.算法治理的措施優(yōu)化。推動以上三種機(jī)制并行，算法治理的措施優(yōu)化應(yīng)堅持過程導(dǎo)向和主動響應(yīng)需求的原則，引入“元規(guī)制”理念，強(qiáng)調(diào)多主體權(quán)責(zé)的明確和系統(tǒng)參與，加強(qiáng)事前、事中和事后全過程的管理。

首先，算法治理的措施優(yōu)化體現(xiàn)在外部治理和自我治理基礎(chǔ)上元規(guī)制理念的引入?！霸?guī)制”是指規(guī)制本身成為被規(guī)制的對象（Bronwen Morgan, 2003）。顯然，元規(guī)制不僅對治理主體進(jìn)行規(guī)制，也強(qiáng)調(diào)對治理過程的管控。實踐中元規(guī)制的主旨不在于對算法風(fēng)險個案解決，而在于對算法應(yīng)用進(jìn)行整體的技術(shù)標(biāo)準(zhǔn)指引，并對“算法類型—算法風(fēng)險”的生成機(jī)制予以過程性管理的回應(yīng)。例如，國際標(biāo)準(zhǔn)化組織已于2018年開始制定針對消費者數(shù)據(jù)信息保護(hù)的標(biāo)準(zhǔn)，旨在改善算法帶來的“價格歧視”問題；2019年，德國數(shù)據(jù)倫理委員會發(fā)布“針對數(shù)據(jù)和算法的建議”，建立數(shù)字服務(wù)企業(yè)使用數(shù)據(jù)的5級風(fēng)險評級制度，對不同風(fēng)險類型的企業(yè)采取不同的監(jiān)管措施。目前，我國已出臺的《中華人民共和國個人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》進(jìn)一步明確算法推薦服務(wù)商在保護(hù)個人信息、防止過度消費、秉持道德倫理等方面的責(zé)任和算法需備案、定期審核等要求，對打破算法黑箱大有裨益。但目前我國尚缺乏對不同類型算法的技術(shù)標(biāo)準(zhǔn)和對算法風(fēng)險分級分類管理的標(biāo)準(zhǔn)，從元規(guī)制視角出發(fā)，這些標(biāo)準(zhǔn)應(yīng)盡快出臺，以實現(xiàn)將治理原則和目標(biāo)融入技術(shù)開發(fā)和應(yīng)用中，推動治理對象的自我治理和治理過程的全覆蓋。

其次，算法規(guī)制的措施優(yōu)化體現(xiàn)在對算法應(yīng)用全過程的管理。在《中華人民共和國個人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》頒布之前，我國對于算法的治理較明顯地體現(xiàn)為事后治理，比如2018年8月頒布的《電子商務(wù)法》第十九條規(guī)定“電子商務(wù)經(jīng)營者搭售商品或者服務(wù)，應(yīng)當(dāng)以顯著方式提醒消費者注意，不得將搭售商品或者服務(wù)作為默認(rèn)同意的選項”，對這一條款的違規(guī)處罰上限為50萬元罰款。再比如2021年2月出臺的《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》中明確指出“認(rèn)定平臺經(jīng)濟(jì)領(lǐng)域的濫用市場支配地位行為，適用《反壟斷法》第三章和《禁止濫用市場支配地位行為暫行規(guī)定》”，認(rèn)定過程及行政處罰等也是通過舉報、調(diào)查等事后追索。因為算法技術(shù)的迭代更新，事后治理或追責(zé)往往無法有效應(yīng)對算法應(yīng)用引致風(fēng)險的廣泛性和破壞性，增強(qiáng)事中，特別是事前的治理才有利于前瞻性地防范算法風(fēng)險的產(chǎn)生。2021年12月出臺的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》強(qiáng)調(diào)“算法風(fēng)險防控機(jī)制備案”“建立健全算法機(jī)制機(jī)理審核與評估”“驗證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果”等，這已充分說明我國已逐漸實現(xiàn)算法問責(zé)前置，推進(jìn)事前和事中治理工作。在此基礎(chǔ)上，需進(jìn)一步探索算法內(nèi)容（原理）的備案路徑、拓展第三方算評估（審計）的范圍等，讓原則與要求具有落地基礎(chǔ)；同時要關(guān)注算法影響的平臺參與企業(yè)、消費者、數(shù)字勞動者等多重個體，可以通過分類別的負(fù)面清單方式，阻斷算法風(fēng)險的產(chǎn)生。

總體而言，算法應(yīng)用產(chǎn)生的風(fēng)險是多維度的，是算法應(yīng)用中技術(shù)權(quán)力轉(zhuǎn)化為資本權(quán)力和對公共資源的控制，從而導(dǎo)致了市場失靈或政府失靈。技術(shù)本無善惡，是具有中立性的工具和手段。技術(shù)應(yīng)用達(dá)到何種目的，產(chǎn)生何種影響，均有賴于使用和控制技術(shù)的主體。因此，發(fā)揮算法推動社會向善發(fā)展的作用，需要深入分析算法應(yīng)用產(chǎn)生風(fēng)險的特征以及風(fēng)險產(chǎn)生的機(jī)理，并推進(jìn)多元主體協(xié)同、利益均衡和敏捷治理機(jī)制，通過動態(tài)優(yōu)化治理工具與措施，構(gòu)筑“負(fù)責(zé)任的算法”的基石。

文章來源：《學(xué)術(shù)前沿》雜志2022年5月下（微信有刪節(jié)）

作者：中國傳媒大學(xué)國際傳媒教育學(xué)院院長金雪濤

原文責(zé)編：張曉

新媒體責(zé)編：馮一帆

視覺：劉潔

（圖片來自網(wǎng)絡(luò)）