哩布哩布就 AI 生成涉黄擦边内容致歉，称已启动专项排查与技术修复

背景情况

近期，央视财经频道曝光了多款AI应用存在生成涉黄内容的漏洞。在此次调查中，记者通过购买特定提示词的方式，在名为“哩布哩布AI”的应用中成功生成了一段半裸女性跳舞的视频。这类内容的生成过程未触发平台的任何审核机制，暴露出系统在内容安全控制方面存在严重漏洞。

• 记者测试过程中发现，多数AI应用在遇到露骨提示词时会启动审核机制并拒绝生成内容。
• 哩布哩布AI未能有效识别并拦截敏感提示词，导致违规内容被成功生成。
• 视频生成仅需几分钟，反映出AI模型在内容输出速度和敏感控制方面的不匹配。

事件详情

据央视报道，在测试中记者通过输入从网上购买的提示词，成功引导哩布哩布AI生成了一段具有明显擦边性质的半裸女性跳舞视频。这一过程中，平台未进行任何警告或阻止，也未提示内容风险。

• 平台未设置有效关键词过滤机制。
• AI生成模型在内容审核上存在盲区。
• 提示词经过精心设计，规避了常规审核逻辑。

该事件引发了社会对AI内容生成平台监管能力的广泛质疑，并再次将AI伦理与合规性问题推向公众视野。

公司回应与处理措施

在事件曝光后，哩布哩布AI运营方迅速作出回应，对事件表示歉意，并承诺立即启动专项排查与技术修复。

• 公开致歉，承认平台审核机制存在疏漏。
• 已成立专项小组，全面排查系统漏洞。
• 正在优化AI模型的敏感词识别机制。
• 强化人工与AI双重审核流程，防止类似事件再次发生。

公司表示，将严格遵守国家相关法律法规，进一步完善内容安全体系。

社会影响与监管压力

此次事件再次引发公众对AI生成内容监管的关注。随着AI技术的普及，内容生成的边界和伦理问题日益凸显，尤其是涉及色情、暴力等敏感领域。

• 社会对AI平台内容安全提出更高要求。
• 监管机构或将加大对AI生成内容的审查力度。
• 用户对AI应用的信任度可能受到影响。
• 行业内呼吁建立统一的AI内容生成合规标准。

哩布哩布AI事件为整个AI行业敲响了警钟，推动平台加强自律与技术优化。

未来展望与行业趋势

面对日益严格的内容监管环境，AI生成平台必须在技术创新与内容安全之间找到平衡点。

• 引入更先进的内容识别模型，如多模态审核系统。
• 增强与监管部门的协作，提升合规响应能力。
• 加强用户提示与举报机制，鼓励社会监督。
• 推动AI伦理建设，设立内容生成红线。

此次事件或将成为AI内容监管的一个转折点，促使更多平台加强技术与管理层面的安全机制建设。