中央网信办举报中心开设“涉 AI 应用乱象举报专区”，受理 14 类问题

14类问题覆盖AI应用全链条，从服务违规到内容安全

中央网信办此次开设的举报专区，将受理范围精准划分为14类具体问题，重点涵盖AI应用服务违规和内容安全两大维度。在服务违规方面，主要涉及未按规定履行大模型备案手续、利用AI技术生成虚假信息用于商业欺诈等行为；在内容安全方面，则聚焦于利用AI制作、传播虚假不实新闻、暴力血腥图像及低俗色情内容。这一分类直击当前AI应用中最突出的“擦边球”与“灰色地带”，为公众提供了明确的举报标尺。

生成合成内容标识落实不到位成整治核心痛点

在14类问题中，“生成合成内容标识落实不到位”被列入首批重点受理范畴。这意味着，所有基于AI技术生成的文字、图片、音视频内容，若未按照《互联网信息服务深度合成管理规定》等法规明确标注“由AI生成”或“合成”等标识，均可被公众向举报专区反映。此举旨在终结AI生成内容与真实人类创作“真假难辨”的乱象，防止深度伪造技术被用于传播谣言、误导公众或损害他人名誉。

暴力低俗与虚假不实信息：AI乱象的两大“毒瘤”

举报专区特别将“制作发布虚假不实信息”和“制作发布暴力低俗信息”单列为两类受理范围，反映出监管部门对这两大AI乱象“毒瘤”的高度警惕。近期，利用AI技术批量生成灾难谣言、伪造名人讲话、制造血腥暴力画面等事件频发，严重扰乱网络秩序和社会稳定。通过专项受理，监管部门将鼓励网民对利用AI技术炮制假消息、传播不良价值观的行为进行定点举报，从而倒逼平台和开发者强化内容审核责任。