人类距离AI失控还有多远？

当前AI技术已突破早期研发阶段的“组合爆炸”瓶颈，能够完成学习、推理、感知、决策等原本属于人类的认知任务，甚至OpenAI、谷歌DeepMind、Meta等头部企业已将研发目标指向能覆盖几乎所有认知领域的通用人工智能（AGI）。但技术能力的飞速提升，却与管理、评估、约束相关技术的能力出现了明显脱节。

NIST启动AI风险治理框架修订 行业透明性持续下降引担忧

根据2025年AI指数报告，AI能力与管理准备的差距正在持续扩大：技术快速融入全球经济，算力水平持续提升、投资规模加速增长、应用场景不断扩散，但配套的治理、评估、理解机制却远远跟不上发展节奏，同时领域内数据透明性持续下降，独立、精准的AI能力测量从未像现在这样关键。
当前AI治理面临的核心挑战包括：

• 技术迭代速度远超监管规则更新速度，现有规则难以覆盖新兴AI应用场景；
• 数据透明度不足，第三方独立评估难度大，AI系统的“黑箱”属性难以破解；
• 公众与专家对AI影响的认知存在显著鸿沟，73%的受访专家认为AI会对就业产生正面影响，但仅23%的普通公众持相同观点，认知差进一步加剧了监管博弈。
  美国国家标准与技术研究院（NIST）日前已启动AI风险管理框架草案的征询工作，试图通过完善标准为AI风险管控提供参考，但业界普遍认为，现有框架的更新速度仍难以匹配技术发展需求。

美国撤销AI监管行政令 全力押注AGI国家竞赛

美国总统特朗普上任首日即签署14179号“移除美国人工智能领导力障碍”行政令，直接撤销了拜登政府时期出台的14110号AI监管行政令，明确要求美国政府保持在全球AI竞赛中的主导地位，并牵头制定国家AI行动计划。
行政令明确要求减少针对AI领域的官僚监管和繁文缛节，为私营部门的AI创新扫清障碍，同时要求防范先进AI技术被恶意行为体滥用或窃取，持续监控AI领域的新兴和不可预见风险。这一政策转向被视为美国全力押注AGI竞赛的信号：在AGI研发成为全球科技竞争核心赛道的背景下，美国试图通过松绑监管加速技术迭代，巩固自身领先优势，但学界也普遍担忧，缺乏底线约束的AGI研发一旦出现方向偏差，可能带来不可逆的失控风险。

生成式AI年经济价值将破千亿 技能滞后与认知差并存

市场预测数据显示，到2026年初，生成式AI工具对美国消费者带来的年价值将达1720亿美元，2025至2026年间用户人均获取的价值将实现翻三倍。AI技术正在快速渗透到消费、生产、服务等各个领域，成为拉动经济增长的新引擎。
但技术落地速度也暴露出多重错位：一方面，各国正规教育体系的AI相关课程更新明显滞后于技术发展速度，目前仅能依靠全生命周期的社会培训填补技能缺口；另一方面，多国正在加速推出国家级AI战略，发展中国家也在加大AI超算领域的投资，试图掌握本地AI生态的主导权，目前AI大模型的生产仍集中在美国和中国，但开源生态的蓬勃发展正让全球其他地区的贡献占比超过欧洲，正逐步接近美国水平，更多元化的参与者加入也进一步增加了全球AI风险管控的难度。

全球AI治理信任度分化 监管碎片化推高风险

全球不同地区对政府监管AI的信任度存在显著差异：欧盟的AI监管信任度高于美国和中国，阿联酋的信任度达到64%，而美国仅排在24位，信任度仅为28.3%。不同地区的监管思路分化明显，美国倾向于减少监管鼓励创新，欧盟则更注重风险分级管控，发展中国家的监管体系仍在探索阶段。
这种全球监管格局的碎片化导致大量AI应用处于监管空白地带，一旦出现安全事件或伦理问题，很难快速实现全球协同处置，进一步推高了AI失控的潜在风险。也有专家指出，只有建立全球统一的AI治理基准，才能在一定程度上约束无序研发，降低失控概率。