全国网络安全标准化技术委员会发布《人工智能安全治理框架 3.0》

2024年9月9日，在2024年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会（以下简称“网安标委”）正式发布《人工智能安全治理框架》1.0版，该框架是贯彻落实《全球人工智能治理倡议》推出的首版基础性技术文件，为后续版本迭代奠定了核心原则与底层逻辑。

1.0版框架锚定AI安全治理核心原则

1.0版以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，明确提出四大治理原则：

• 包容审慎，确保安全
• 风险导向，敏捷治理
• 技管结合，协同应对
• 开放合作、共治共享
  按照风险管理理念，结合人工智能技术特性，1.0版将AI风险划分为内生风险与应用风险两大类：其中内生风险涵盖模型算法安全、数据安全、系统安全三类，应用风险覆盖网络域、现实域、认知域、伦理域四个领域，针对不同风险类型提出对应技术应对、综合防治措施及人工智能安全开发应用指引。网安标委秘书处主要负责人表示，1.0版的发布对推动社会各方积极参与、协同推进人工智能安全治理具有重要促进作用，为培育安全、可靠、公平、透明的人工智能技术研发和应用生态，促进人工智能的健康发展和规范应用提供了基础性、框架性技术指南，同时也有助于在全球范围推动人工智能安全治理国际合作，推动形成具有广泛共识的全球人工智能治理体系，确保人工智能技术造福于人类。

2.0版框架动态适配AI技术发展新变化

2024年9月1.0版发布后，人工智能技术和应用发展迅速，新场景、新风险不断涌现。在国家网信办指导下，由国家互联网应急中心牵头组织人工智能专业机构、科研院所、行业企业联合制定了《框架》2.0版。作为全国网安标委技术文件，2.0版在1.0版基础上持续跟踪风险变化，完善优化风险分类，研究探索风险分级，动态调整更新防范治理措施，更好匹配人工智能技术迭代与产业应用的实际需求。

3.0版框架回应开源AI体新风险填补治理空白

随着开源人工智能体应用普及，相关安全风险日益凸显，部分地区已先行探索相关标准制定，例如广东省标准化协会推出团体标准《智能体任务执行安全要求》，为全国性制度建设积累了宝贵经验。在此背景下迭代推出的3.0版框架，进一步针对开源AI体的特有风险完善应对方案，细化各场景下的安全治理指引，进一步强化了框架的实用性、可操作性，为AI产业各参与方提供了更清晰的安全合规参考，持续推动人工智能产业安全、规范、健康发展。