南方財經(jīng)全媒體記者 李潤澤子 實習(xí)生 高藝 廣州報道
美國當(dāng)?shù)貢r間6月21日，美國司法部宣布與Meta就“廣告算法歧視”案達(dá)成和解。此前，Meta被指控涉嫌算法歧視，利用基于用戶種族、膚色、宗教、性別、身體狀況、家庭狀況和國籍等信息的算法推送房地產(chǎn)廣告。
根據(jù)和解協(xié)議，Meta將在2022年12月31日前停用具有“歧視算法”的住房廣告推薦工具，并開發(fā)新的廣告推薦系統(tǒng)。此外，Meta還需支付11.5054萬美元罰金。
Meta被訴廣告算法推薦涉歧視
據(jù)了解，此次Meta被指控是基于美國住房與城市發(fā)展部（HUD）的一項調(diào)查。該調(diào)查發(fā)現(xiàn)，Meta（原Facebook）的廣告投放系統(tǒng)存在利用算法歧視性篩選用戶的行為，違反了《公平住房法》。
美國司法部介紹，《公平住房法》禁止基于種族、膚色、宗教、性別、家庭狀況、國籍和殘疾的住房歧視。
HUD認(rèn)為，Meta支持并鼓勵廣告商通過《公平住房法》禁止的個人信息來篩選目標(biāo)用戶。同時，Meta專門開發(fā)了一款名為“特殊廣告受眾”的廣告定位工具供廣告商使用。
6月21日，司法部宣布與Meta達(dá)成和解。根據(jù)和解協(xié)議， 2022 年 12 月 31 日前，Meta必須停止使用名為“特殊廣告受眾”的住房廣告工具，并開發(fā)新的住房廣告系統(tǒng)，以解決目前個性化算法造成的歧視問題。新系統(tǒng)實施后，各方將選擇獨(dú)立的第三方審查員持續(xù)調(diào)查和驗證其是否符合合規(guī)標(biāo)準(zhǔn)。根據(jù)協(xié)議，Meta必須向?qū)彶閱T提供任何必要的驗證信息。此外，Meta不應(yīng)向住房廣告商提供直接描述的或與受《公平住房法》保護(hù)特征相關(guān)的篩選選項。如果Meta打算添加任何篩選信息，必須通知司法部。而根據(jù)《公平住房法》規(guī)定，Meta必須支付 11.5054萬 美元的民事罰款。
但如果問題未得到解決，此次和解協(xié)議將終止，美國司法部將在聯(lián)邦法院對Meta提起訴訟。
據(jù)介紹，這是美國司法部根據(jù)《公平住房法》處理算法歧視的第一起案件，也是Meta 將首次因其廣告定位和投放系統(tǒng)而受到法院監(jiān)督。
算法歧視治理已成全球話題
金融借貸平臺借貸歧視、平臺型企業(yè)大數(shù)據(jù)“殺熟”、人工智能相貌歧視、AI機(jī)器人發(fā)表歧視性言……近年來，算法歧視的例子數(shù)不勝數(shù)。而針對層出不窮的算法歧視問題，監(jiān)管也愈發(fā)嚴(yán)格。
2019年，美國發(fā)布了《算法問責(zé)法2019（草案）》，其要求大型互聯(lián)網(wǎng)平臺企業(yè)評估并消除其自動決策算法給消費(fèi)者信息隱私和安全帶來的風(fēng)險，以及因種族、膚色、宗教、政治信仰、性別或其它方面差異帶來的算法歧視與偏見。2020年6月，美國參議院發(fā)布的《數(shù)據(jù)問責(zé)和透明度法2020》則將算法自動化決策納入監(jiān)管，提出消費(fèi)者應(yīng)當(dāng)有權(quán)質(zhì)疑收集數(shù)據(jù)的理由并要求人工對算法自動化決策進(jìn)行審查和解釋。
歐盟《通用數(shù)據(jù)保護(hù)條例》第13條則規(guī)定，當(dāng)數(shù)據(jù)控制者收集個人數(shù)據(jù)時，如采用自動化決策對用戶進(jìn)行畫像或存在類似情況的，應(yīng)當(dāng)向數(shù)據(jù)主體提供關(guān)于此類問題處理的邏輯及預(yù)期后果的有效信息。
在我國，目前針對算法歧視的法律規(guī)制文件多涉及“大數(shù)據(jù)殺熟”。2019年1月1日實施的《電子商務(wù)法》規(guī)定，電子商務(wù)經(jīng)營者根據(jù)消費(fèi)者的興趣愛好、消費(fèi)習(xí)慣等特征向其提供商品或者服務(wù)的搜索結(jié)果的，應(yīng)當(dāng)同時向該消費(fèi)者提供不針對其個人特征的選項，尊重和平等保護(hù)消費(fèi)者合法權(quán)益。2021年2月7日，國務(wù)院反壟斷委員會發(fā)布《關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》，明確差別待遇情形下濫用市場支配地位的情形，規(guī)定“大數(shù)據(jù)殺熟”屬于差別待遇。2021年11月，我國《個人信息保護(hù)法》正式實施，規(guī)定保證自動化決策的透明度和公平，不得在交易條件上實行差別待遇。
技術(shù)是一把雙刃劍，如何促進(jìn)科技向善是科技平臺的責(zé)任，也已監(jiān)管部門的關(guān)注重點(diǎn)。
更多內(nèi)容請下載21財經(jīng)APP
