网络暴力信息治理是网络空间治理的重要领域,党的二十大报告提出“健全网络综合治理体系,推动形成良好网络生态”的治理目标,为推进依法管网治网、提升网络空间治理能力、营造清朗网络空间指明了方向。《网络暴力信息治理规定》(下文简称《规定》),是我国首部以部门规章形式公布的反网络暴力专门立法,为持续构建网络暴力信息治理体系奠定重要基础。《规定》的颁布开启了网络暴力信息治理法治化新篇章,对于推进网络空间治理现代化意义重大。

一、明确网络暴力信息治理应坚持协同共治

网络暴力治理是一项系统工程,离不开全社会的共同参与。《规定》将“协同共治”确立为网络暴力信息治理的基本原则之一,并在具体条文中细化落实,主要涉及两个方面:

其一,多主体的协同共治,包括政府部门之间实现内部协同共治以及政府与社会主体之间实现外部协同共治。网信部门负责统筹协调网络暴力信息治理和相关监督管理工作,公安、文化和旅游、广播电视等有关部门依据各自职责开展网络暴力信息的监督管理工作,各部门之间建立健全信息共享、会商通报、取证调证、案件督办等工作机制,协同治理网络暴力信息。同时,《规定》积极推动社会主体参与网络空间治理,特别是鼓励和引导网络相关行业组织加强行业自律,在行业内部凝聚合规经营的共识,推动制定网络暴力信息治理规范公约和行业参考标准,开展网络暴力信息治理普法宣传,督促指导网络信息服务提供者加强网络暴力信息治理并接受社会监督,为遭受网络暴力信息侵害的用户提供帮扶救助等支持,实现网络监管与网络自治的互补与平衡。

其二,法律与技术的协同共治。《规定》遵循网络技术发展规律,在网络暴力信息治理中融入技术思维,以技术驱动网络暴力信息治理的现代化转型,如采用人工智能、大数据等技术手段和人工审核相结合的方式加强对网络暴力信息的识别监测,建立健全网络暴力信息预警模型,及时发现预警网络暴力信息风险等,提升网络暴力信息治理效能;另一方面,“算法黑箱”导致人工智能技术具有突破制度调控的自主发展趋势,网络暴力治理中的技术治理,仍需接受法治的规范监管,应通过法律制度明确技术手段的应用边界,确保网络暴力信息治理技术在法治轨道上向善发展。

二、压实平台治理网络暴力信息的主体责任

《规定》坚持源头防范、防控结合、标本兼治、协同共治的网络暴力信息治理思路,进一步压实网络信息服务提供者的主体责任,督促其切实履行网络信息内容管理主体责任,构建覆盖事前监测预警、事中干预处置、事后问责惩戒的全链条治理机制,有效防范和化解网络暴力信息风险。在治理前端,网络信息服务提供者应当在国家网信部门和国务院有关部门指导下细化网络暴力信息分类标准规则,建立健全网络暴力信息特征库、典型案例样本库和预警模型,及时发现预警网络暴力信息风险,对异常账号及时采取真实身份信息动态核验、弹窗提示、违规警示、限制流量等措施。在治理中端,网络信息服务提供者应当加强对网络视听节目、网络表演等服务内容的管理和网络直播、短视频等服务的内容审核,加强对网络论坛社区、网络群组以及跟帖评论信息内容的管理,发现网络暴力信息后立即停止传输,并采取删除、屏蔽、断开链接等处置措施,保存有关记录,并向有关部门报告。在治理末端,对制作、复制、发布、传播网络暴力信息的用户,网络信息服务提供者应当依法依约采取警示、删除信息、限制账号功能、关闭账号直至禁止重新注册等措施,并将涉网络暴力信息违法违规情形记入用户信用记录,依法依约降低账号信用等级或者列入黑名单,并据以限制账号功能或者停止提供相关服务。对组织、煽动制作、复制、发布、传播网络暴力信息的网络信息内容多渠道分发服务机构,网络信息服务提供者应当依法依约对该机构及其管理的账号采取警示、暂停营利权限、限制提供服务、入驻清退等处置措施。

三、加强用户合法权益保护

网络暴力信息严重侵害当事人的身心健康,破坏网络生态,扰乱社会秩序。《规定》设立“保护机制”专章,重点强化对用户尤其是未成年人、老年人、残疾人等特殊群体合法权益的保护。第一,要求网络信息服务提供者建立健全网络暴力信息防护功能,完善私信规则,明确网络信息服务提供者发现用户面临网络暴力信息风险的,应当及时通过显著方式提示用户,告知用户可以采取的防护措施。第二,要求网络信息服务提供者向用户提供网络暴力信息快捷取证等功能,为用户维权提供便利,当公安、网信等有关部门依法调取证据时,应当及时提供必要的技术支持和协助。第三,要求网络信息服务提供者自觉接受社会监督,优化投诉、举报程序,在服务显著位置设置专门的网络暴力信息快捷投诉、举报入口,公布处理流程,及时受理、处理公众投诉、举报并反馈处理结果,特别是应当优先处理涉未成年人网络暴力信息的投诉、举报,设置便利未成年人及其监护人行使通知删除网络暴力信息权利的功能、渠道,并及时采取删除、屏蔽、断开链接等必要措施,防止信息扩散。

四、优化网络暴力信息治理民行刑责任衔接

制作、复制、发布、传播网络暴力信息的行为可能构成民事侵权、行政违法、甚至刑事犯罪,应依法承担相应的民事责任、行政责任和刑事责任。因此,《规定》对网络暴力信息治理的责任衔接作出规定。一是明确网信部门会同公安、文化和旅游、广播电视等有关部门建立健全信息共享、会商通报、取证调证、案件督办等工作机制。公安机关对有关部门移送的涉网络暴力信息违法犯罪线索应当及时进行审查,并对符合立案条件的及时立案侦查、调查。二是规定网络信息服务提供者发现网络暴力信息涉嫌违法犯罪的,应当及时向公安机关报案,并提供相关线索,依法配合开展侦查、调查和处置等工作。三是规定了相应的法律责任。同时,明确违反本规定,给他人造成损害的,依法承担民事责任;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。《规定》精准惩治网络暴力信息“按键伤人”行为,依法追究施暴者的法律责任,保障公民合法权益,维护正常网络秩序。

《规定》深入贯彻以人民为中心的发展思想,本着对社会负责、对人民负责的态度,吸纳国内外网络暴力信息治理的有益经验,立足中国实践,创新网络暴力信息治理的理念、逻辑、路径,将为全方位促进网络暴力信息治理提质增效,营造风清气正、健康有序、文明守信的网络生态提供有力制度保障。