域名預(yù)訂/競(jìng)價(jià)，好“米”不錯(cuò)過(guò)
20世紀(jì)，美國(guó)人靠計(jì)算機(jī)讓導(dǎo)彈飛行地更精準(zhǔn)，如今我們卻把鍵盤當(dāng)武器，在互聯(lián)網(wǎng)上對(duì)我們的同胞發(fā)起戰(zhàn)爭(zhēng)。
01 網(wǎng)絡(luò)暴力，是一場(chǎng)眾人之罪
近期，網(wǎng)絡(luò)暴力事件頻發(fā)，并且還在持續(xù)不斷發(fā)酵，其產(chǎn)生的惡劣影響也在快速擴(kuò)大。從尋親男孩劉學(xué)州，到染頭發(fā)女孩鄭靈華，再到前幾天震驚全網(wǎng)的5.25校園交通事故，被撞身亡的六歲小學(xué)生母親因網(wǎng)暴而選擇輕生，甚至是近日的“國(guó)企高管牽手異性逛街”網(wǎng)絡(luò)反腐事件，都已演變成了一場(chǎng)對(duì)男女當(dāng)事人的“網(wǎng)暴狂歡”。
在網(wǎng)絡(luò)世界中，施暴者躲在角落，無(wú)所顧忌地發(fā)表言論，將鍵盤當(dāng)作“利刃”隨意攻擊著別人。然而，躲在一張張“匿名”面具之后的他們，大多數(shù)只是現(xiàn)實(shí)中的普通人，他們?cè)诰W(wǎng)絡(luò)上表現(xiàn)出了極度的冷酷、漠然。有心理學(xué)家對(duì)網(wǎng)暴者的心理進(jìn)行分析，認(rèn)為他們多為“兩面人”：現(xiàn)實(shí)生活中的“羊”、虛擬世界中的“狼”。
網(wǎng)絡(luò)暴力的侵害形式主要包括威脅、騷擾、侮辱和社會(huì)性孤立等，行為通常伴有侵犯他人名譽(yù)、披露他人隱私等情況。由于違法成本低，社交媒體、網(wǎng)絡(luò)集體性地放大了人性陰暗的一面，網(wǎng)暴對(duì)公眾人身權(quán)利造成的實(shí)質(zhì)性傷害，已經(jīng)遠(yuǎn)遠(yuǎn)超出了網(wǎng)絡(luò)輿論的邊界。
02 網(wǎng)絡(luò)空間，不存在法外之地
網(wǎng)絡(luò)空間，不存在法外之地。倘若人人都可以躲在屏幕背后，披著匿名的殼子，或抱著無(wú)知者無(wú)罪、法不責(zé)眾的心態(tài)，不帶任何思量就去任意一次次地敲下回車鍵，去傷害一個(gè)陌生人，這不僅是道德敗壞行為，更是一種私人執(zhí)法行為，是對(duì)法律威嚴(yán)的無(wú)視。
網(wǎng)暴頑疾由來(lái)已久，這一頑疾的復(fù)雜程度、治理難度，確實(shí)超乎想象。迄今為止，沒(méi)有任何國(guó)家、任何企業(yè)成功根治網(wǎng)暴。與傳統(tǒng)違法犯罪不同，網(wǎng)絡(luò)暴力往往針對(duì)素不相識(shí)的陌生人實(shí)施，被害人在確認(rèn)侵害人、收集證據(jù)等方面存在現(xiàn)實(shí)困難，維權(quán)成本極高，同時(shí)也存在著定性難、監(jiān)管難的問(wèn)題。法律定罪需要完成的證據(jù)鏈，在落地過(guò)程中往往需要耗費(fèi)巨大的成本和資源。所以世界各國(guó)往往會(huì)采用政府監(jiān)管、企業(yè)互動(dòng)、社會(huì)自治和教育等“組合拳”形式推動(dòng)網(wǎng)絡(luò)生態(tài)的健康發(fā)展。
作為最早對(duì)網(wǎng)絡(luò)作出規(guī)范的國(guó)家，1997年6月，德國(guó)聯(lián)邦議院通過(guò)了世界上首部全面規(guī)范網(wǎng)絡(luò)的法律《多媒體法》(德文簡(jiǎn)稱IUKDG)，該法實(shí)施的目的在于保護(hù)用戶公民權(quán)利和公共利益，并以專門篇幅對(duì)網(wǎng)絡(luò)服務(wù)商的責(zé)任、義務(wù)作出具體規(guī)定。
在美國(guó)，對(duì)網(wǎng)絡(luò)暴力沒(méi)有明確的界定，理論上主要是分為網(wǎng)絡(luò)欺凌、網(wǎng)絡(luò)跟蹤和網(wǎng)絡(luò)騷擾。2009年4月，美國(guó)出臺(tái)了歷史上第一部針對(duì)青少年網(wǎng)絡(luò)欺凌的專項(xiàng)法律，將青少年網(wǎng)絡(luò)隱私安全作為防治青少年網(wǎng)絡(luò)欺凌工作的重心，出臺(tái)的法律不僅限制網(wǎng)絡(luò)上有害信息的傳播，還保護(hù)兒童在網(wǎng)絡(luò)世界的隱私安全，從而有效保護(hù)青少年免受或少受網(wǎng)絡(luò)欺凌的威脅。
這些年，中國(guó)始終高度重視互聯(lián)網(wǎng)的發(fā)展，從來(lái)沒(méi)有停止過(guò)對(duì)網(wǎng)絡(luò)環(huán)境的治理。2022年，國(guó)家網(wǎng)信辦就發(fā)布《關(guān)于切實(shí)加強(qiáng)網(wǎng)絡(luò)暴力治理的通知》，明確要求禁止針對(duì)個(gè)人集中發(fā)布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息;禁止侵害他人合法權(quán)益，擾亂正常網(wǎng)絡(luò)秩序;要求網(wǎng)站平臺(tái)壓實(shí)主體責(zé)任，健全完善長(zhǎng)效工作機(jī)制，有效保障廣大網(wǎng)民合法權(quán)益。
近日，最高人民法院、最高人民檢察院、公安部三部門起草了《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見(jiàn)(征求意見(jiàn)稿)》，向社會(huì)公開征求意見(jiàn)，對(duì)在信息網(wǎng)絡(luò)上制造、散布謠言，采取肆意謾罵、惡毒攻擊、披露隱私等方式公然侮辱他人的行為將進(jìn)行依法嚴(yán)懲。此次“兩高一部”的聯(lián)合動(dòng)作，可能迎來(lái)史上最嚴(yán)厲的網(wǎng)絡(luò)暴力懲治法規(guī)。
“兩高一部”的《征求意見(jiàn)》將重點(diǎn)針對(duì)以下行為和人群：
1.重點(diǎn)打擊行為: 對(duì)于網(wǎng)絡(luò)誹謗、網(wǎng)絡(luò)侮辱、侵?jǐn)_公民個(gè)人信息、線下滋擾以及借網(wǎng)暴事件進(jìn)行惡意營(yíng)銷炒作的，將依法進(jìn)行嚴(yán)懲。比如網(wǎng)絡(luò)誹謗行為，將以誹謗罪定罪處罰，網(wǎng)絡(luò)侮辱行為，將以侮辱罪定罪處罰。
2. 重點(diǎn)打擊對(duì)象：對(duì)惡意發(fā)起者、組織者、推波助瀾以及屢教不改的群體，將堅(jiān)持嚴(yán)格執(zhí)法，對(duì)于網(wǎng)絡(luò)暴力違法犯罪，應(yīng)當(dāng)依法嚴(yán)肅追究，切實(shí)矯正“法不責(zé)眾”錯(cuò)誤傾向。
3.重點(diǎn)犯罪情形：(1)針對(duì)未成年人、殘疾人實(shí)施的;(2)組織“水軍“、“打手”實(shí)施的;(3)編造“涉性”話題侵害他人人格尊嚴(yán)的;(4)利用“深度合成”技術(shù)發(fā)布違法或者不良信息，違背公序良俗、倫理道德的;(5)網(wǎng)絡(luò)服務(wù)提供者發(fā)起、組織的。對(duì)實(shí)施以上的網(wǎng)絡(luò)暴力違法犯罪，將從重處罰。
因?yàn)榫W(wǎng)暴而造成被害人精神失常、自 殺等嚴(yán)重后果的，將會(huì)被認(rèn)定為刑法第 246 條的「嚴(yán)重危害社會(huì)秩序」罪。
從《征求意見(jiàn)》中所覆蓋的重點(diǎn)人群和違法行為中可以看出，目前網(wǎng)絡(luò)暴力的施加者不僅僅包括普通網(wǎng)民，也包含了網(wǎng)絡(luò)暴力團(tuán)伙、有組織性的網(wǎng)絡(luò)黑產(chǎn)等群體。這些群體在利益的驅(qū)動(dòng)下，通常會(huì)繞開平臺(tái)的相關(guān)機(jī)制，進(jìn)行有組織、有手段地實(shí)施網(wǎng)絡(luò)暴力行為，比如通過(guò)注冊(cè)運(yùn)營(yíng)大量社交賬號(hào)，通過(guò)社交平臺(tái)相互推廣引流，或者通過(guò)鼓動(dòng)網(wǎng)民、水軍造勢(shì)等方式使輿論發(fā)酵，以此牟利。
對(duì)平臺(tái)企業(yè)來(lái)說(shuō)，平臺(tái)生態(tài)惡化及社會(huì)輿論帶來(lái)負(fù)面聲譽(yù)足以讓企業(yè)產(chǎn)生巨大的運(yùn)營(yíng)商業(yè)風(fēng)險(xiǎn)。當(dāng)商業(yè)與社會(huì)現(xiàn)實(shí)擺在面前，平臺(tái)如何以法律為準(zhǔn)繩，并通過(guò)技術(shù)、平臺(tái)規(guī)則和機(jī)制等手段去解決這些異化現(xiàn)象，重新衡量、規(guī)劃和引導(dǎo)平臺(tái)空間與用戶的行為關(guān)系，讓平臺(tái)回歸健康的生態(tài)運(yùn)營(yíng)是目前無(wú)法逃避的一個(gè)問(wèn)題。
03 用 AI 技術(shù)，對(duì)抗網(wǎng)暴
網(wǎng)易易盾，依托于網(wǎng)易集團(tuán)20多年的技術(shù)沉淀與傳媒行業(yè)的深厚積累，在網(wǎng)絡(luò)輿論的風(fēng)險(xiǎn)控制和平臺(tái)不良內(nèi)容的監(jiān)測(cè)管理上有豐富的實(shí)踐經(jīng)驗(yàn)，可以通過(guò)輿情預(yù)警、建設(shè)【人工+AI+舉報(bào)】三級(jí)審核流程、建立審核員培訓(xùn)制度維護(hù)平臺(tái)內(nèi)容的生態(tài)治理和風(fēng)險(xiǎn)管控，有效減少平臺(tái)不良言論，控制網(wǎng)絡(luò)暴力的影響力和危害性。
其中輿情預(yù)警建設(shè)是放在首位的，易盾可以幫助平臺(tái)打造輿情系統(tǒng)，實(shí)時(shí)搜索網(wǎng)絡(luò)傳播中的熱點(diǎn)問(wèn)題及有害言論，并將敏感信息錄入形成相應(yīng)規(guī)避詞與輿情工作報(bào)告，上報(bào)主管部門，直接規(guī)避用戶在平臺(tái)上發(fā)出存有規(guī)避詞的信息。
同時(shí)，易盾的AI能力在幫助網(wǎng)暴治理方面可發(fā)揮出重要作用，其中，對(duì)嘲諷、低俗內(nèi)容的識(shí)別以及情感正負(fù)面判斷等能力，是AI技術(shù)的重要應(yīng)用之一。
首先，AI可以利用自然語(yǔ)言處理技術(shù)識(shí)別出帶有嘲諷、低俗成分的言論，并對(duì)其進(jìn)行分類與標(biāo)記。通過(guò)對(duì)這些言論進(jìn)行識(shí)別和分類，網(wǎng)絡(luò)管理人員可以更快速地發(fā)現(xiàn)和處理違規(guī)言論，從而減少網(wǎng)暴事件的發(fā)生。其次，AI可以通過(guò)情感分析技術(shù)對(duì)言論的情感正負(fù)面進(jìn)行判斷，從而更好地評(píng)估言論的影響力和危害程度。例如，對(duì)于帶有負(fù)面情感的言論，AI可以快速判斷其可能會(huì)引起的社會(huì)影響，從而更好地采取應(yīng)對(duì)措施，保障公關(guān)安全與社會(huì)穩(wěn)定。
在用戶管理方面，易盾還可以幫助平臺(tái)進(jìn)行用戶的實(shí)名認(rèn)證來(lái)限制匿名用戶發(fā)布的不良言論。對(duì)用戶產(chǎn)生的內(nèi)容方面做分層處理，建立不同層級(jí)違規(guī)、違法內(nèi)容數(shù)據(jù)庫(kù)，再用AI技術(shù)對(duì)違規(guī)、違法等內(nèi)容進(jìn)行識(shí)別算法建模，并不斷完善模型數(shù)據(jù)庫(kù)。當(dāng)用戶發(fā)出內(nèi)容后， 可以結(jié)合內(nèi)容與數(shù)據(jù)庫(kù)做對(duì)照，將違規(guī)內(nèi)容直接篩出。
我們相信人性有向善的本能，但就像向日葵一樣，面對(duì)陽(yáng)光才能生長(zhǎng)。網(wǎng)絡(luò)暴力的背后，不管人心之惡、技術(shù)之惡還是資本之惡，易盾一直希望能成為那道可以驅(qū)散黑暗的陽(yáng)光，給網(wǎng)民一個(gè)陽(yáng)光、向上、溫暖的網(wǎng)絡(luò)空間。
申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！
