1996年，美國麻省理工學(xué)院教授尼葛洛龐帝在《數(shù)字化生存》一書中預(yù)言，“數(shù)字不再只和計(jì)算有關(guān)，它決定我們的生存?！?/p>

二十六年后的今天，數(shù)字時(shí)代給人們的生活方式帶來巨大變革，媒介作為人的延伸，打破了時(shí)空限制，人與人之間的關(guān)系變得“比特化”，實(shí)現(xiàn)前所未有的聯(lián)結(jié)。暴力的形式也從線下蔓延到網(wǎng)絡(luò)空間，幻化成屏幕上的文字、符號、圖片……以更隱蔽的方式給當(dāng)事人造成傷害，甚至導(dǎo)致“數(shù)字性死亡”“社會性死亡”。

自2022年6月起，南財(cái)合規(guī)科技研究院將推出反網(wǎng)暴系列報(bào)道，以期從不同維度、不同面向?qū)W(wǎng)暴的衍生路徑、群體反應(yīng)、治理面向進(jìn)行拆解分析，以媒體力量推進(jìn)網(wǎng)暴治理。

應(yīng)對網(wǎng)絡(luò)暴力，互聯(lián)網(wǎng)平臺是第一道防線。在網(wǎng)暴醞釀及初發(fā)階段，各互聯(lián)網(wǎng)平臺如何設(shè)計(jì)防護(hù)機(jī)制？存在什么難點(diǎn)與痛點(diǎn)？

互動管理+信息監(jiān)測：網(wǎng)暴能否“消音”？

對于互聯(lián)網(wǎng)平臺而言，“用戶自主設(shè)置+平臺介入監(jiān)測”是事前階段主流的防控模式。

經(jīng)21世紀(jì)經(jīng)濟(jì)報(bào)道記者梳理發(fā)現(xiàn)，在新浪微博、抖音、快手、知乎、小紅書、豆瓣、B站、百度貼吧中，用戶均可以自主管理評論、私信互動關(guān)系。常見的選擇范圍包括所有人、關(guān)注的人、我的粉絲及互相關(guān)注的人，也可以選擇直接關(guān)閉權(quán)限。

相較于評論，私信場景中的網(wǎng)暴行為更加隱蔽。上述8個平臺對于“未關(guān)注人私信”功能均作出了嚴(yán)格限制，在對方未關(guān)注或回復(fù)前最多只能發(fā)送一條消息。新浪微博、小紅書、知乎、豆瓣、B站均設(shè)置了類似“未關(guān)注人私信箱”功能，陌生人發(fā)來的私信將會被系統(tǒng)收入其中。在抖音、快手，用戶還可以選擇設(shè)置私密帳號，該功能開啟后，僅粉絲可以瀏覽作品，且新的關(guān)注請求需經(jīng)過用戶批準(zhǔn)。

新浪微博近期發(fā)布公告，加強(qiáng)言論攻擊及網(wǎng)暴行為治理，調(diào)整私信接收規(guī)則，在接收未關(guān)注人發(fā)送的私信時(shí)，僅顯示1條私信提醒，用戶在確認(rèn)接收后，可查看具體內(nèi)容并進(jìn)行正常文字對話，單次確認(rèn)有效期為24小時(shí)。

在網(wǎng)暴信息識別監(jiān)測方面，21記者設(shè)置了20個敏感詞，包括常見的攻擊類詞匯以及諧音、換字等更隱秘的表達(dá)，在上述8個平臺進(jìn)行測試，均有不同程度的攔截，且評論場景中的詞匯攔截率高于私信場景。

在敏感詞測試中，平臺過濾情況大致可分為三類：一是消息可以正常發(fā)送及接收；二是消息發(fā)送后被屏蔽，接收方無法收到該信息；三是消息發(fā)送失敗。在第一類情況中，部分詞匯會觸發(fā)風(fēng)險(xiǎn)提示。

經(jīng)記者梳理發(fā)現(xiàn)，貶低矮化類、詛咒威脅類和人身攻擊類詞匯基本能被系統(tǒng)識別并屏蔽。諧音、縮寫類敏感詞，除了“NMSL”有較高的屏蔽率外，仍有許多諧音詞存在一定識別難度。

值得注意的是，網(wǎng)絡(luò)暴力的表現(xiàn)形式復(fù)雜多變，某類信息是否涉及網(wǎng)暴，還需結(jié)合具體語境、當(dāng)事人主觀感受等因素進(jìn)行判斷。如“逝者安息”“位列仙班”等，在不同場景下會產(chǎn)生不一樣的解讀。

據(jù)了解，多個互聯(lián)網(wǎng)平臺都在近期調(diào)整優(yōu)化了網(wǎng)暴信息監(jiān)測機(jī)制。

抖音上線了“發(fā)文警示”“負(fù)向內(nèi)容過濾”等12項(xiàng)防網(wǎng)暴功能。在“發(fā)文警示”功能下，若系統(tǒng)模型判定已經(jīng)發(fā)送的評論存在問題，會推送彈窗提醒，建議發(fā)送者重新編輯，去除不當(dāng)言論。如果發(fā)送者堅(jiān)持發(fā)送，則該條評論不會在評論區(qū)出現(xiàn)。在“負(fù)向內(nèi)容過濾”功能下，當(dāng)模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會被直接放入“陌生人盒子—垃圾信息”中。

B站針對私信場景上線智能攔截功能，系統(tǒng)將對檢測到疑似騷擾或不良的會話內(nèi)容直接攔截。在評論、彈幕等場景，用戶可以開啟評論精選模式、設(shè)置彈幕關(guān)鍵詞以過濾不良內(nèi)容。據(jù)B站相關(guān)負(fù)責(zé)人介紹，當(dāng)評論區(qū)集中性出現(xiàn)負(fù)面信息時(shí)，系統(tǒng)會觸發(fā)一套較為嚴(yán)格的防網(wǎng)暴互動管控模型，識別過濾不友善內(nèi)容。“平臺還會通過抑郁情緒識別模型去識別有抑郁傾向的用戶，在發(fā)現(xiàn)相關(guān)內(nèi)容后直接觸發(fā)防網(wǎng)暴模型。如果監(jiān)測到有關(guān)輕生的內(nèi)容，平臺會緊急介入專家進(jìn)行風(fēng)險(xiǎn)等級判定，與用戶建立聯(lián)系、安撫情緒，必要時(shí)上報(bào)警方處理?！?/p>

作為Z世代高度聚集的文化社區(qū)，B站近期升級了未成年人保護(hù)機(jī)制。未成年用戶開啟青少年模式后，平臺將從內(nèi)容、功能等層面進(jìn)行限制，用戶所瀏覽的視頻需經(jīng)內(nèi)容團(tuán)隊(duì)人工審核，評論、彈幕、私信等功能也會經(jīng)過更嚴(yán)格的模型過濾，降低未成年人受到輿論傷害的風(fēng)險(xiǎn)。

在問答社區(qū)知乎，用戶可開啟“瓦力保鏢”功能，開啟后系統(tǒng)識別出的不良評論和私信將會被折疊、隱藏或刪除，嚴(yán)重者將被拉黑。21記者用兩個帳號進(jìn)行測試，在收到3-4條不友善私信后，系統(tǒng)會自動將對方帳號加入黑名單。6月，知乎優(yōu)化“發(fā)文提示”功能，用戶在評論和私信場景下發(fā)布不友善內(nèi)容時(shí)將會收到社區(qū)建議修改的提示。在私信場景中，不友善的內(nèi)容將被自動折疊并觸發(fā)風(fēng)險(xiǎn)提示，用戶可以自主選擇是否瀏覽消息詳情。

侮辱攻擊類詞匯層出不窮，對于表達(dá)形式更隱晦的網(wǎng)暴信息，平臺如何及時(shí)處理？微博相關(guān)負(fù)責(zé)人表示，對于日常的言論攻擊、泄露隱私、引戰(zhàn)等內(nèi)容，平臺通過主動巡查、受理用戶舉報(bào)投訴等方式進(jìn)行處置；對于熱點(diǎn)事件中衍生的網(wǎng)暴行為，平臺及時(shí)跟蹤、聯(lián)系熱點(diǎn)當(dāng)事人，發(fā)掘相關(guān)線索上報(bào)至監(jiān)管部門；針對平臺上的不友善內(nèi)容，微博通過機(jī)器模型策略、關(guān)鍵詞策略強(qiáng)化內(nèi)容識別與處置。

百度貼吧方面回復(fù)稱，貼吧有巡查、吧主和吧務(wù)反饋、舉報(bào)、清理回溯等發(fā)現(xiàn)機(jī)制，同時(shí)不斷優(yōu)化內(nèi)容策略，升級貼吧網(wǎng)暴識別能力。近期貼吧共擴(kuò)充網(wǎng)暴關(guān)鍵詞近500組，新增圖片黑庫600余張。

定義之困：網(wǎng)暴的灰色邊界

目前，對于網(wǎng)暴的定義仍存在一定模糊界限。互聯(lián)網(wǎng)平臺面臨著一個繞不開的問題：什么樣的言論和行為能夠判定為網(wǎng)絡(luò)暴力？

在當(dāng)事人社交帳號下刷屏白色蠟燭表情包，再附上一句“早日安息”。在私信中“提醒”當(dāng)事人，“晚上一個人出門注意安全，別被車撞了。”又或者是對當(dāng)事人的外貌留下一句輕飄飄的評價(jià)，“匯集了高科技的臉，一定很貴吧?！薄?/p>

大量灰色的、難以判定的內(nèi)容形成了一座大山，橫亙在互聯(lián)網(wǎng)平臺治理網(wǎng)暴的道路中。

微博相關(guān)負(fù)責(zé)人在采訪中告訴21記者，微博平臺主要治理侮辱謾罵、侵犯隱私、造謠誹謗、貶低羞辱、道德綁架和冒犯騷擾等方面的網(wǎng)暴行為。“網(wǎng)暴行為的發(fā)生較隨性和偶然，沒有固定規(guī)律，有時(shí)只因?yàn)橐痪湓?、一個觀點(diǎn)或一個表情。平臺難以及時(shí)發(fā)現(xiàn)和制止。此外，行業(yè)處置未形成統(tǒng)一標(biāo)準(zhǔn)，各平臺尺度不同，導(dǎo)致處置過程中也會存在用戶申訴和投訴的問題?！?/p>

抖音相關(guān)負(fù)責(zé)人表示，平臺正在不斷加強(qiáng)網(wǎng)暴信息識別能力建設(shè)，但依然存在一些難點(diǎn)，難以兼顧“快速”與“精準(zhǔn)”。對于明顯的辱罵、造謠、人身攻擊類言語，平臺可以明確定義和治理。但另外還有大量惡搞、調(diào)侃類的言論，它們不違法違規(guī)，但對當(dāng)事人的身心帶來了實(shí)質(zhì)傷害。比如用當(dāng)事人的臉P成搞怪表情包，用諧音梗進(jìn)行辱罵等等。“網(wǎng)暴的界定和識別是目前的難點(diǎn)之一，在治理過程中需要結(jié)合受害人具體情況、抗壓能力，信息傳播量級、傳播速度進(jìn)行個案分析，這對平臺進(jìn)行規(guī)?；⒓皶r(shí)性治理帶來很大困難?！?/p>

目前司法層面對網(wǎng)暴尚無明確界定，更多的是從局部角度進(jìn)行歸納。北京海淀法院專門審理互聯(lián)網(wǎng)案件的法官秦鵬博在此前采訪中表示，“在現(xiàn)有的法律法規(guī)和規(guī)范性文件、指導(dǎo)性文件中缺乏對網(wǎng)絡(luò)暴力概念內(nèi)涵和外延的規(guī)定，亦缺乏列舉性的規(guī)范方式。”進(jìn)一步明晰網(wǎng)絡(luò)暴力的法律概念，探索專門法的立法模式，是未來有效治理網(wǎng)絡(luò)暴力的重要途徑。

社區(qū)共治：數(shù)字鄰居的正向聯(lián)合

不同的互聯(lián)網(wǎng)平臺有各自獨(dú)特的社區(qū)文化。在事前階段，文化建設(shè)作為一種“軟性手段”將分散的用戶聯(lián)結(jié)在一起，強(qiáng)化用戶作為數(shù)字社區(qū)成員的身份認(rèn)同感，引導(dǎo)用戶自覺維護(hù)社區(qū)氛圍。而對于難以判定的內(nèi)容，平臺也可以通過用戶眾議的方式提高信息甄別的準(zhǔn)確性。

在B站，用戶可以自愿加入“風(fēng)紀(jì)委員會”，對全站熱門稿件的氛圍進(jìn)行眾議投票，包括視頻整體的評論、彈幕氛圍，以及單條評論、彈幕在具體語境下是否適宜，以此甄別不良內(nèi)容。B站相關(guān)負(fù)責(zé)人在采訪中表示，“今年4月，我們收到部分風(fēng)紀(jì)委員的反饋，希望社區(qū)能夠治理數(shù)碼區(qū)存在的‘帶節(jié)奏’引戰(zhàn)攻擊互動問題。5月初B站啟動了數(shù)碼區(qū)專項(xiàng)治理行動，根據(jù)風(fēng)紀(jì)委提報(bào)的不良氛圍特征進(jìn)行總結(jié)，交由阿瓦?。ㄔu論審核系統(tǒng)）學(xué)習(xí)并治理?！?/p>

微博相關(guān)負(fù)責(zé)人表示，眾議投票的方式能夠一定程度上降低正常評論被誤傷的情況?！皩τ陔y以界定的內(nèi)容，微博平臺會每日推送給社區(qū)委員會成員進(jìn)行投票眾裁，以最大公允地判定違規(guī)行為是否成立。如用戶對站方處置有異議，可隨時(shí)進(jìn)行申訴?！?/p>

目前，多個互聯(lián)網(wǎng)平臺通過制定社區(qū)公約、鼓勵用戶參與社區(qū)共治等方式維護(hù)社區(qū)氛圍，同時(shí)以用戶意見建議反哺社區(qū)策略調(diào)整。

中國傳媒大學(xué)新聞傳播學(xué)部電視學(xué)院教授、媒體融合與傳播系主任顧潔認(rèn)為，在互聯(lián)網(wǎng)綜合治理體系中，網(wǎng)民自律是重要一環(huán)?！白月刹粌H是不做壞事，更重要的是主動去做好事。目前網(wǎng)民參與互聯(lián)網(wǎng)治理的力量還沒有被完全發(fā)揮出來，隨著網(wǎng)絡(luò)志愿文化逐漸深入人心，相信越來越多的網(wǎng)民會積極參與到治理中去?！?/p>

隨著個性化算法推薦等技術(shù)的普遍應(yīng)用，網(wǎng)民基于選擇性心理長期只關(guān)注自己感興趣的內(nèi)容，只聽自己認(rèn)同的觀點(diǎn)。這些觀點(diǎn)不斷重復(fù)加深，形成“回音室效應(yīng)”，可能會加劇群體極化現(xiàn)象。顧潔表示，“信息繭房”“回音室效應(yīng)”是全球社會都在面臨的問題，互聯(lián)網(wǎng)平臺應(yīng)堅(jiān)持技術(shù)向善，以主流價(jià)值觀為導(dǎo)向，為網(wǎng)民提供更多的信息選擇。網(wǎng)民自身也要有意識地“破繭”，拓寬信息視野，了解多元化的聲音，在此過程中進(jìn)一步提升媒介素養(yǎng)，提高理性思辨能力。

更多內(nèi)容請下載21財(cái)經(jīng)APP