網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好，符合人民利益。但近年來，不時(shí)出現(xiàn)的網(wǎng)絡(luò)暴力信息嚴(yán)重?cái)_亂網(wǎng)絡(luò)秩序、破壞網(wǎng)絡(luò)生態(tài)，侮辱、誹謗、侵犯隱私等網(wǎng)絡(luò)暴力行為甚至造成當(dāng)事人自殺等嚴(yán)重后果，產(chǎn)生惡劣社會(huì)影響。構(gòu)建更為清朗的網(wǎng)絡(luò)空間，更有力地治理網(wǎng)絡(luò)暴力信息，需要制定更為系統(tǒng)完善的法治規(guī)則。國家網(wǎng)信辦等四部門公布的《網(wǎng)絡(luò)暴力信息治理規(guī)定》（以下簡稱《規(guī)定》），是第一部系統(tǒng)治理網(wǎng)絡(luò)暴力信息的部門規(guī)章，為維護(hù)網(wǎng)絡(luò)空間清朗、百姓精神安寧構(gòu)筑法治屏障。
從網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理角度來看，《規(guī)定》具有十個(gè)鮮明特點(diǎn)，即十個(gè)“明確規(guī)定”。
其一，明確規(guī)定網(wǎng)絡(luò)信息服務(wù)提供者、網(wǎng)絡(luò)用戶應(yīng)有的價(jià)值取向和行為取向。
《規(guī)定》第六條明確規(guī)定“網(wǎng)絡(luò)信息服務(wù)提供者和用戶應(yīng)當(dāng)堅(jiān)持社會(huì)主義核心價(jià)值觀，遵守法律法規(guī)，尊重社會(huì)公德和倫理道德，促進(jìn)形成積極健康、向上向善的網(wǎng)絡(luò)文化，維護(hù)良好網(wǎng)絡(luò)生態(tài)”�！兑�(guī)定》第十三條規(guī)定網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)當(dāng)及時(shí)回應(yīng)社會(huì)關(guān)切，引導(dǎo)用戶文明互動(dòng)、理性表達(dá)。這些規(guī)定體現(xiàn)了“營造良好網(wǎng)絡(luò)生態(tài)”“維護(hù)社會(huì)公共利益”的治理目的和價(jià)值取向，有利于源頭治理網(wǎng)絡(luò)暴力信息。
其二，明確規(guī)定網(wǎng)絡(luò)暴力信息的定義，以明確行為邊界、明晰治理規(guī)則、界定治理對象、明辨是非性質(zhì)。
《規(guī)定》第七章第三十二條明確，“本規(guī)定所稱網(wǎng)絡(luò)暴力信息，是指通過網(wǎng)絡(luò)以文本、圖像、音頻、視頻等形式對個(gè)人集中發(fā)布的，含有侮辱謾罵、造謠誹謗、煽動(dòng)仇恨、威逼脅迫、侵犯隱私，以及影響身心健康的指責(zé)嘲諷、貶低歧視等內(nèi)容的違法和不良信息�！薄兑�(guī)定》為網(wǎng)絡(luò)治理相關(guān)責(zé)任主體、網(wǎng)絡(luò)用戶和社會(huì)各界明晰網(wǎng)絡(luò)信息行為邊界、明確界定網(wǎng)絡(luò)暴力信息治理對象、明辨網(wǎng)絡(luò)現(xiàn)象是非性質(zhì)和維護(hù)清朗網(wǎng)絡(luò)空間提供了規(guī)則依據(jù)。
其三，明確界定涉網(wǎng)絡(luò)暴力信息行為的標(biāo)準(zhǔn)和治理規(guī)則。
《規(guī)定》分“禁止”“防范和抵制”兩個(gè)層級(jí)規(guī)定了涉網(wǎng)絡(luò)暴力信息的行為邊界，明確規(guī)定“任何組織和個(gè)人不得制作、復(fù)制、發(fā)布、傳播涉網(wǎng)絡(luò)暴力違法信息，應(yīng)當(dāng)防范和抵制制作、復(fù)制、發(fā)布、傳播涉網(wǎng)絡(luò)暴力不良信息”�！兑�(guī)定》第十條不僅明確“借網(wǎng)絡(luò)暴力事件實(shí)施蹭炒熱度、推廣引流等營銷炒作行為”“通過批量注冊或者操縱用戶賬號(hào)等形式組織制作、復(fù)制、發(fā)布、傳播網(wǎng)絡(luò)暴力信息”均屬禁止范圍和治理對象，還明確禁止“明知他人從事涉網(wǎng)絡(luò)暴力信息違法犯罪活動(dòng)的，為其提供數(shù)據(jù)、技術(shù)、流量、資金等支持和協(xié)助”行為。
同時(shí)，《規(guī)定》第十七條、第十八條、第十九條等的相關(guān)規(guī)定明確了網(wǎng)絡(luò)視聽節(jié)目、網(wǎng)絡(luò)表演、跟帖評論、網(wǎng)絡(luò)論壇社區(qū)和網(wǎng)絡(luò)群組等環(huán)節(jié)的網(wǎng)絡(luò)暴力信息治理要求。這些規(guī)定不僅治標(biāo)而且治本，準(zhǔn)確體現(xiàn)了《規(guī)定》所堅(jiān)持的“源頭防范、防控結(jié)合、標(biāo)本兼治、協(xié)同共治”的原則。
其四，明確規(guī)定網(wǎng)絡(luò)信息服務(wù)提供者在網(wǎng)絡(luò)暴力信息治理中的主體責(zé)任。
互聯(lián)網(wǎng)平臺(tái)對網(wǎng)絡(luò)信息具有比其他主體更強(qiáng)的技術(shù)控制力、及時(shí)發(fā)現(xiàn)力和及時(shí)處置力，同時(shí)又是信息流量、平臺(tái)影響力和相關(guān)收益的主要受益者，網(wǎng)絡(luò)信息服務(wù)提供者理應(yīng)在網(wǎng)絡(luò)暴力信息治理中擔(dān)負(fù)更大責(zé)任。對此，《規(guī)定》從多個(gè)方面、多個(gè)環(huán)節(jié)、多種情形規(guī)定了網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)盡的義務(wù)、應(yīng)負(fù)的責(zé)任，包括網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)當(dāng)履行網(wǎng)絡(luò)信息內(nèi)容管理主體責(zé)任、對網(wǎng)絡(luò)暴力信息預(yù)防預(yù)警責(zé)任、涉網(wǎng)絡(luò)暴力違法信息及賬號(hào)處置責(zé)任，并承擔(dān)用戶特別是未成年人、老年人、殘疾人等特殊人群的保護(hù)責(zé)任等。相關(guān)規(guī)定全面、具體、可操作性強(qiáng)，將在網(wǎng)絡(luò)暴力信息治理中發(fā)揮重要作用。
其五，明確規(guī)定互聯(lián)網(wǎng)新聞信息服務(wù)提供者的行為邊界和義務(wù)。
《規(guī)定》第十六條明確規(guī)定“互聯(lián)網(wǎng)新聞信息服務(wù)提供者不得通過夸大事實(shí)、過度渲染、片面報(bào)道等方式采編發(fā)布、轉(zhuǎn)載涉網(wǎng)絡(luò)暴力新聞信息”，明確互聯(lián)網(wǎng)新聞信息服務(wù)者應(yīng)當(dāng)堅(jiān)持正確政治方向、輿論導(dǎo)向、價(jià)值取向，約束互聯(lián)網(wǎng)新聞信息服務(wù)提供者的相關(guān)行為，從關(guān)鍵環(huán)節(jié)消減網(wǎng)絡(luò)暴力信息、網(wǎng)絡(luò)暴力事件可能產(chǎn)生的影響和危害。此外，還規(guī)定“互聯(lián)網(wǎng)新聞信息服務(wù)提供者采編發(fā)布轉(zhuǎn)載涉網(wǎng)絡(luò)暴力新聞信息不真實(shí)或者不公正的，應(yīng)當(dāng)立即公開更正，消除影響”，明確互聯(lián)網(wǎng)新聞信息服務(wù)提供者在從事相關(guān)采編發(fā)布、轉(zhuǎn)載活動(dòng)時(shí)的義務(wù)。
其六，明確規(guī)定公眾賬號(hào)生產(chǎn)運(yùn)營者在網(wǎng)絡(luò)暴力信息治理中的責(zé)任和義務(wù)。
《規(guī)定》要求公眾賬號(hào)生產(chǎn)運(yùn)營者建立健全“全過程信息內(nèi)容安全審核機(jī)制”，是重要規(guī)則創(chuàng)設(shè)和制度創(chuàng)新。第二十條明確規(guī)定“公眾賬號(hào)生產(chǎn)運(yùn)營者應(yīng)當(dāng)建立健全發(fā)布推廣、互動(dòng)評論等全過程信息內(nèi)容安全審核機(jī)制，發(fā)現(xiàn)賬號(hào)跟帖評論等環(huán)節(jié)存在網(wǎng)絡(luò)暴力信息的，應(yīng)當(dāng)及時(shí)采取舉報(bào)、處置等措施�！苯⒔∪^程信息內(nèi)容安全審核機(jī)制，抓住公眾賬號(hào)生產(chǎn)運(yùn)營特性，聚焦跟帖評論等容易出現(xiàn)與所發(fā)布內(nèi)容關(guān)聯(lián)性不大、卻可能涉網(wǎng)絡(luò)暴力信息的重點(diǎn)環(huán)節(jié)，規(guī)定了公眾賬號(hào)生產(chǎn)運(yùn)營者應(yīng)負(fù)的舉報(bào)和處置義務(wù)。
其七，明確規(guī)定對網(wǎng)絡(luò)視聽、網(wǎng)絡(luò)表演、網(wǎng)絡(luò)直播、短視頻等主動(dòng)發(fā)現(xiàn)、及時(shí)處置的治理規(guī)則。
網(wǎng)絡(luò)視聽、網(wǎng)絡(luò)表演、網(wǎng)絡(luò)直播、短視頻等信息擴(kuò)散速度快、范圍廣，一旦涉網(wǎng)絡(luò)暴力信息，將會(huì)嚴(yán)重破壞網(wǎng)絡(luò)輿論環(huán)境，造成嚴(yán)重后果�！兑�(guī)定》對有關(guān)網(wǎng)絡(luò)信息內(nèi)容傳播管理創(chuàng)設(shè)了主動(dòng)介入、及時(shí)處置、強(qiáng)化審核等規(guī)則。第十七條規(guī)定網(wǎng)絡(luò)信息服務(wù)提供者“發(fā)現(xiàn)含有網(wǎng)絡(luò)暴力信息的網(wǎng)絡(luò)視聽節(jié)目、網(wǎng)絡(luò)表演等服務(wù)的，應(yīng)當(dāng)及時(shí)刪除信息或者停止提供相關(guān)服務(wù)”，即主動(dòng)發(fā)現(xiàn)的義務(wù)和及時(shí)處置原則，并明確網(wǎng)絡(luò)信息服務(wù)提供者強(qiáng)化審核規(guī)則，“應(yīng)當(dāng)加強(qiáng)對網(wǎng)絡(luò)直播、短視頻等服務(wù)的內(nèi)容審核，及時(shí)阻斷含有網(wǎng)絡(luò)暴力信息的網(wǎng)絡(luò)直播，處置含有網(wǎng)絡(luò)暴力信息的短視頻�！�
其八，明確規(guī)定對跟帖評論、詞條超話等新形態(tài)內(nèi)容的管理規(guī)則和治理制度。
隨著互聯(lián)網(wǎng)信息內(nèi)容形態(tài)的發(fā)展，跟帖評論、網(wǎng)絡(luò)論壇、網(wǎng)絡(luò)群組甚至詞條、超話制作等具有較大的影響力�！兑�(guī)定》第十八條明確規(guī)定“網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)當(dāng)加強(qiáng)對跟帖評論信息內(nèi)容的管理，對以評論、回復(fù)、留言、彈幕、點(diǎn)贊等方式制作、復(fù)制、發(fā)布、傳播網(wǎng)絡(luò)暴力信息的，應(yīng)當(dāng)及時(shí)采取刪除、屏蔽、關(guān)閉評論、停止提供相關(guān)服務(wù)等處置措施”�！兑�(guī)定》第十九條明確規(guī)定“網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)當(dāng)加強(qiáng)對網(wǎng)絡(luò)論壇社區(qū)和網(wǎng)絡(luò)群組的管理，禁止用戶在版塊、詞條、超話、群組等環(huán)節(jié)制作、復(fù)制、發(fā)布、傳播網(wǎng)絡(luò)暴力信息”。還要求網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)“禁止以匿名投稿和隔空喊話的方式創(chuàng)建含有網(wǎng)絡(luò)暴力信息的論壇社區(qū)和群組賬號(hào)”，這些規(guī)則，體現(xiàn)了《規(guī)定》抓住網(wǎng)絡(luò)信息服務(wù)關(guān)鍵環(huán)節(jié)立規(guī)則、求實(shí)效的制度出發(fā)點(diǎn)，以及對規(guī)則可執(zhí)行性、效果可檢驗(yàn)性的全面考慮。
其九，明確規(guī)定對未成年人、老年人、殘疾人等特殊群體的保護(hù)規(guī)則和救助制度。
《規(guī)定》第二十四條明確特殊保護(hù)的三種情形，主要包括“網(wǎng)絡(luò)暴力信息侵害未成年人、老年人、殘疾人等用戶合法權(quán)益的”、“網(wǎng)絡(luò)暴力信息侵犯用戶個(gè)人隱私的”和“若不及時(shí)采取措施，可能造成用戶人身、財(cái)產(chǎn)損害等嚴(yán)重后果的其他情形”�！兑�(guī)定》明確要求，除按面對一般用戶面臨網(wǎng)絡(luò)暴力信息風(fēng)險(xiǎn)時(shí)應(yīng)當(dāng)采取的“及時(shí)通過顯著方式提示用戶，告知用戶可以采取的防護(hù)措施”外，“還應(yīng)當(dāng)為用戶提供網(wǎng)絡(luò)暴力信息防護(hù)指導(dǎo)和保護(hù)救助服務(wù)，協(xié)助啟動(dòng)防護(hù)措施，并向網(wǎng)信、公安等有關(guān)部門報(bào)告�！痹诖嘶A(chǔ)上，《規(guī)定》第二十七條對未成年人提供了更強(qiáng)有力的保護(hù)措施，包括網(wǎng)絡(luò)信息服務(wù)提供者“應(yīng)當(dāng)優(yōu)先處理涉未成年人網(wǎng)絡(luò)暴力信息的投訴、舉報(bào)”，“設(shè)置便利未成年人及其監(jiān)護(hù)人行使通知?jiǎng)h除網(wǎng)絡(luò)暴力信息權(quán)利的功能、渠道”，“接到相關(guān)通知后，應(yīng)當(dāng)及時(shí)采取刪除、屏蔽、斷開鏈接等必要措施，防止信息擴(kuò)散”等。
其十，明確規(guī)定以技術(shù)手段促進(jìn)網(wǎng)絡(luò)暴力信息防控與治理。
明確如何以技術(shù)手段全面防控與治理網(wǎng)絡(luò)暴力信息，并規(guī)定相應(yīng)規(guī)則與制度安排，是《規(guī)定》的又一重要特色�！兑�(guī)定》第十二條明確規(guī)定“網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)當(dāng)在國家網(wǎng)信部門和國務(wù)院有關(guān)部門指導(dǎo)下細(xì)化網(wǎng)絡(luò)暴力信息分類標(biāo)準(zhǔn)規(guī)則，建立健全網(wǎng)絡(luò)暴力信息特征庫和典型案例樣本庫，采用人工智能、大數(shù)據(jù)等技術(shù)手段和人工審核相結(jié)合的方式，加強(qiáng)對網(wǎng)絡(luò)暴力信息的識(shí)別監(jiān)測。”這既明確了責(zé)任主體，也確立了科技加人工的審核制度和對網(wǎng)絡(luò)暴力信息進(jìn)行識(shí)別監(jiān)測的責(zé)任�！兑�(guī)定》第十三條進(jìn)一步強(qiáng)化了技術(shù)手段在監(jiān)測預(yù)警網(wǎng)絡(luò)暴力信息領(lǐng)域的應(yīng)用，要求“網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)當(dāng)建立健全網(wǎng)絡(luò)暴力信息預(yù)警模型，綜合事件類別、針對主體、參與人數(shù)、信息內(nèi)容、發(fā)布頻次、環(huán)節(jié)場景、舉報(bào)投訴等因素，及時(shí)發(fā)現(xiàn)預(yù)警網(wǎng)絡(luò)暴力信息風(fēng)險(xiǎn)”。網(wǎng)絡(luò)暴力信息特征庫、典型案例樣本庫、網(wǎng)絡(luò)暴力信息預(yù)警模型等機(jī)制的建立健全，體現(xiàn)了《規(guī)定》所堅(jiān)持的“源頭防范、防控結(jié)合、標(biāo)本兼治、協(xié)同共治”的原則，有利于實(shí)現(xiàn)網(wǎng)絡(luò)暴力信息治理目標(biāo)，讓網(wǎng)絡(luò)空間更清朗、人民生活更美好。
作者：陸小華 天津大學(xué)新媒體與傳播學(xué)院講席教授