整治網(wǎng)暴等網(wǎng)絡(luò )不良行為亂象，需要行政監管、互聯(lián)網(wǎng)平臺、網(wǎng)民等多方主體共同參與。我們應該合力凈化網(wǎng)絡(luò )生態(tài)，營(yíng)造積極健康、清朗有序的網(wǎng)絡(luò )環(huán)境。

　　陳磊 首都經(jīng)濟貿易大學(xué)法學(xué)院訴訟與司法制度研究中心主任

　　這幾天，網(wǎng)名為“春游哥哥”的汶川地震幸存女孩遭遇網(wǎng)絡(luò )暴力一事持續發(fā)酵。她公開(kāi)的私信記錄顯示，部分網(wǎng)友對其進(jìn)行了言語(yǔ)侮辱及惡意騷擾。

　　近年來(lái)，網(wǎng)絡(luò )在人們的生活中發(fā)揮著(zhù)越來(lái)越大的作用。在給人們帶來(lái)便利的同時(shí)，網(wǎng)絡(luò )也帶來(lái)了網(wǎng)絡(luò )暴力這一讓無(wú)數人聞之色變的“洪水猛獸”。隨著(zhù)網(wǎng)絡(luò )暴力行為危害的加大，治理網(wǎng)絡(luò )暴力愈發(fā)受到人們的關(guān)注。

　　3月28日上午，國務(wù)院新聞辦公室舉行新聞發(fā)布會(huì )。會(huì )上，國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人介紹了2023年“清朗”系列專(zhuān)項行動(dòng)的相關(guān)情況，其中包括“清朗·網(wǎng)絡(luò )戾氣整治”這一與網(wǎng)絡(luò )暴力治理有關(guān)的專(zhuān)項行動(dòng)。

　　網(wǎng)絡(luò )暴力的危害究竟有多大？如何更好地認定網(wǎng)絡(luò )暴力行為？應該采取何種措施治理網(wǎng)絡(luò )暴力？記者針對上述問(wèn)題采訪(fǎng)了有關(guān)專(zhuān)家。

　　網(wǎng)絡(luò )暴力危害巨大

　　“一般來(lái)說(shuō)，個(gè)人或群體有意識地通過(guò)網(wǎng)絡(luò )傳播攻擊性言論，以針對某一明確的個(gè)人或團體反復、持續實(shí)施侵害的行為，就是網(wǎng)絡(luò )暴力行為。”首都經(jīng)濟貿易大學(xué)法學(xué)院訴訟與司法制度研究中心主任陳磊指出，“網(wǎng)絡(luò )暴力的侵害形式主要包括威脅、騷擾、侮辱和社會(huì )性孤立等，行為通常伴有侵犯他人名譽(yù)、披露他人隱私等。”

　　類(lèi)似汶川地震幸存女孩遭遇的網(wǎng)絡(luò )暴力事件并非孤例。近年來(lái)，劉學(xué)州事件、粉發(fā)女孩事件等均涉及網(wǎng)絡(luò )暴力。這些事件造成了極其不良的后果，引起了社會(huì )的廣泛關(guān)注。

　　其中的部分網(wǎng)暴受害者或陷入長(cháng)期的消沉與自我懷疑，或成為抑郁癥等嚴重心理疾病的受害者，有些甚至選擇了結束自己的生命。

　　面對網(wǎng)絡(luò )暴力帶來(lái)的危害，科學(xué)認定、有效治理網(wǎng)絡(luò )暴力勢在必行。

　　在日前舉行的新聞發(fā)布會(huì )上，國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人表示，近年來(lái)，國家網(wǎng)信辦持續開(kāi)展“清朗”系列專(zhuān)項行動(dòng)，重拳整治包括網(wǎng)絡(luò )暴力在內的網(wǎng)絡(luò )生態(tài)突出問(wèn)題，壓緊壓實(shí)網(wǎng)站平臺主體責任，積極回應人民群眾關(guān)心關(guān)切，有力維護了網(wǎng)民的合法權益。

　　其中，“清朗·網(wǎng)絡(luò )戾氣整治”專(zhuān)項行動(dòng)主要從嚴管評論區信息內容，督促網(wǎng)站平臺加強評論區管理等方面發(fā)力，努力鏟除網(wǎng)絡(luò )暴力等網(wǎng)絡(luò )生態(tài)突出問(wèn)題的滋生土壤。據了解，2022年開(kāi)展的13項“清朗”系列專(zhuān)項行動(dòng)，累計清理違法和不良信息5430余萬(wàn)條，處置賬號680余萬(wàn)個(gè)，下架App、小程序2890余款，解散關(guān)閉群組、貼吧等26萬(wàn)個(gè)，關(guān)閉網(wǎng)站超過(guò)7300家，在治理網(wǎng)絡(luò )暴力，盡可能地減輕甚至避免網(wǎng)絡(luò )暴力帶來(lái)的危害上取得了一定的成效。

　　人工智能助力認定網(wǎng)絡(luò )暴力

　　要治理網(wǎng)絡(luò )暴力，首先要準確、高效地認定網(wǎng)絡(luò )暴力行為。

　　相對于傳統語(yǔ)言暴力行為，網(wǎng)絡(luò )暴力行為因為采用了虛擬化、模糊化的互聯(lián)網(wǎng)語(yǔ)言而更加難以識別，其與正常的調侃、玩笑、戲謔等行為較難區分。與此同時(shí)，由于網(wǎng)絡(luò )傳播的特點(diǎn)，網(wǎng)絡(luò )暴力的傳播速度遠遠快于傳統語(yǔ)言暴力，其傳播范圍也遠遠廣于傳統語(yǔ)言暴力。因此，僅僅采取傳統的人工識別方式認定網(wǎng)絡(luò )暴力，不僅費時(shí)費力、效率低下，而且容易因為識別者的主觀(guān)原因出現誤判甚至錯判，總體效果不夠令人滿(mǎn)意。

　　“社交平臺、短視頻平臺等公共網(wǎng)絡(luò )空間，已經(jīng)成為網(wǎng)絡(luò )暴力行為的高發(fā)地。互聯(lián)網(wǎng)因其虛擬化、零成本、低代價(jià)等特點(diǎn)，對網(wǎng)絡(luò )暴力的產(chǎn)生起到了巨大的推波助瀾作用，也給網(wǎng)絡(luò )暴力的認定帶來(lái)了極大的困難。”北京理工大學(xué)網(wǎng)絡(luò )與安全研究所所長(cháng)閆懷志表示，“在認定網(wǎng)絡(luò )暴力行為上，人工智能技術(shù)可以發(fā)揮很大作用。”

　　據介紹，采用人工智能識別技術(shù)，能夠有效地在公共網(wǎng)絡(luò )空間中將各種惡意語(yǔ)言、圖片、視頻等網(wǎng)絡(luò )暴力“源頭”識別出來(lái)。這種識別基于人工智能技術(shù)的先進(jìn)算法，相比于人工識別，具有更加高效、準確、客觀(guān)等優(yōu)勢。

　　“人工智能技術(shù)對于遏制網(wǎng)暴的最大作用，在于其強大的自然語(yǔ)言理解能力。”閆懷志指出。針對評論、彈幕等典型的非結構化語(yǔ)言數據，人工智能可以利用情緒解析、文本觀(guān)點(diǎn)提取、詞法分析、文本相似度識別等技術(shù)，實(shí)現對網(wǎng)暴的全量、多維度、快速分析，并進(jìn)一步在此基礎上，弄清楚相關(guān)受眾在看待相關(guān)話(huà)題時(shí)的想法、情緒與核心觀(guān)點(diǎn)，從而阻斷網(wǎng)暴傳播鏈的環(huán)節，最大限度地降低網(wǎng)暴帶來(lái)的負面影響和危害。

　　“必須指出的是，人工智能識別技術(shù)不能完全代替人工識別，應該把二者結合起來(lái)，發(fā)揮各自的優(yōu)勢，確保網(wǎng)絡(luò )暴力行為的認定準確可靠。”閆懷志說(shuō)。如果僅僅依靠人工智能識別技術(shù)，可能會(huì )因為其機械性、固定性等缺陷，造成一些令人啼笑皆非的認定錯誤，陷入過(guò)猶不及的境地。

　　雙管齊下治理網(wǎng)絡(luò )暴力

　　有效制止網(wǎng)絡(luò )暴力行為，除了技術(shù)手段，還需要法律的參與。

　　網(wǎng)絡(luò )平臺可普及評論智能過(guò)濾、評論或私信動(dòng)態(tài)關(guān)閉、識別屏蔽惡意用戶(hù)等功能，有效遏制網(wǎng)絡(luò )暴力問(wèn)題。同時(shí)，還可以利用人工智能識別技術(shù)，在對評論進(jìn)行大數據模型匹配和校驗后，向違規發(fā)言者做出言論提醒，及時(shí)制止網(wǎng)絡(luò )暴力行為。

　　記者了解到，針對網(wǎng)暴治理，國內多個(gè)網(wǎng)絡(luò )平臺正在展開(kāi)行動(dòng)。

　　北京愛(ài)奇藝科技有限公司有關(guān)人士向記者介紹，他們上線(xiàn)了私信防范網(wǎng)暴的功能，可以便利地使用一鍵舉報網(wǎng)絡(luò )暴力行為、關(guān)閉消息功能，以減少網(wǎng)絡(luò )暴力內容對用戶(hù)造成的負面影響。該公司還積極引導用戶(hù)發(fā)布正向內容，對存在潛在網(wǎng)絡(luò )暴力內容的信息做出提示，引導發(fā)布者進(jìn)行善意的表達，助力營(yíng)造健康的網(wǎng)絡(luò )環(huán)境。

　　“網(wǎng)絡(luò )暴力行為實(shí)施者依其行為的惡劣程度，可能要承擔民事、行政和刑事責任。”陳磊指出。根據我國民法典的相關(guān)規定，網(wǎng)絡(luò )暴力實(shí)施者造成他人損害的，應承擔侵權責任；如果其行為較為惡劣或者情節較為嚴重，則需要承擔相應的行政責任；如果其以肉體暴力或者其他極端方法進(jìn)行網(wǎng)絡(luò )暴力，情節特別嚴重的，就需要承擔相應的刑事責任。

　　陳磊進(jìn)一步指出，任何個(gè)人和組織使用網(wǎng)絡(luò )都應當遵守憲法法律，遵循公共秩序和社會(huì )公德，不得利用網(wǎng)絡(luò )從事侵害他人合法權益等活動(dòng)。整治網(wǎng)絡(luò )暴力等網(wǎng)絡(luò )不良行為亂象，需要行政監管、互聯(lián)網(wǎng)平臺、網(wǎng)民等多方主體共同參與。我們應該合力凈化網(wǎng)絡(luò )生態(tài)，營(yíng)造積極健康、清朗有序的網(wǎng)絡(luò )環(huán)境。（實(shí)習記者李詔宇）