小红书：所有AI生成合成内容需主动标识

小红书近日对AI生成合成内容的管理提出更严格要求。2月12日，小红书薯管家发布《关于加强自主标识AI生成合成内容的公告》，呼吁创作者在发布AI生成或合成的图文、视频内容时，主动添加AI标识。此举旨在提升内容真实性与透明度，防止AI技术被滥用以仿冒公众人物、制造虚假信息，影响社区生态与用户信任。

平台管理新规：所有AI内容必须标识

根据公告，用户在发布含AI生成/合成内容时，需在发布流程中主动勾选“AI生成”声明选项。平台将通过技术检测工具识别疑似AI内容，若系统判定内容属于AI生成但未主动标识，将自动为其添加标识，并可能限制该内容的分发。

此外，对于故意绕过标识机制的行为，例如发布去除AI标识的教程或工具，小红书已开始严厉打击。部分违规账号如“浪淘达人”“南坤的店”因传播“豆包图片去水印神器”等内容被平台处理，相关商品也已下架。

典型案例通报：AI滥用问题严重

网信部门在近期专项整治行动中通报了多个利用AI生成虚假内容的典型案例。例如：

• 利用AI制作“狗在高铁站救婴儿”“鳄鱼伤人”等虚假视频，未加标识以博取流量；
• 通过AI换脸、声音克隆技术假冒运动员、演员、主持人等公众人物，发布不实言论；
• AI生成虚假火灾现场视频，炒作事故事件，扰乱公共秩序；
• 利用AI魔改动画角色，制作血腥暴力、低俗内容，影响未成年人身心健康；
• 传播去除AI标识的教程，教唆他人规避监管机制。

上述行为已严重破坏网络生态，多地网信部门已依法处置相关账号超过13,000个，清理违法违规信息54.3万余条。

对AI的定位：鼓励创意，反对造假

小红书明确表示，鼓励AI作为“创意放大器”用于提升内容质量与表现形式，反对将其作为“造假工具”或“低质内容生产机器”。平台希望借助AI标识制度，让社区内容更加真实可信，同时推动创作者与用户之间的透明沟通。

未来治理方向：技术+共治双管齐下

为应对AI内容管理挑战，小红书表示将从以下方面持续发力：

• 技术升级：加强AI生成合成内容的识别与检测能力，提高自动标识准确率；
• 用户共治：鼓励用户积极参与举报机制，发现未标识AI内容或低质“数字泔水”内容时，可通过举报按钮及时反馈；
• 内容审核：加大对AI生成虚假仿冒信息、魔改经典、宣扬不良价值观内容的打击力度；
• 生态引导：推动AI内容向积极、健康、有价值的方向发展，提升平台内容整体质量。

总结

随着AI技术的普及，内容生成门槛大幅降低，但也带来了虚假信息、身份仿冒、价值观扭曲等隐患。小红书此次强化AI内容标识机制，不仅是对监管要求的响应，更是平台内容生态健康发展的关键举措。未来，AI内容的治理将依赖平台技术、用户自律与社会监督的多方合力。