互联网大会第二天，巨头用防止“智能体作恶”公约给AI踩下“制动”

20家单位乌镇签下八条公约

互联网大会进入第二天，当舆论焦点还停留在“AI产业如何增速”时，一场分论坛上的签约动作把话题引向了另一个方向。中国信通院、华为、阿里、腾讯、小米、百度、火山引擎等20家单位联合发布《智能体发展自律公约》，公约共八条，核心指向一个此前很少被单独拿出来讨论的问题：当智能体从“能说话”变成“能办事”，谁来管住它伸出去的那只手。

这份公约没有谈“模型有多大”，也没有谈参数规模或算力储备，而是把注意力放在了智能体行为边界上。签署时间点耐人寻味——正好是中国工程院院士邬贺铨在同一场分论坛上给出智能体能力描述之后。

邬贺铨口中的“20步”与“60个”

邬贺铨在“智能体互信互联互操作全球合作创新”分论坛上给出了一组具体数字：国内的智能体已经能拆解20步的任务，多个智能体互相调用协作，数量可以做到60个。

这两个数字构成了公约出台的直接语境。一个智能体能替人跑完20步，意味着它不再只是回答问题的工具，而是能连续执行、自主判断、在中间环节做出选择的执行体；60个智能体互相调用协作，意味着这种执行能力可以在网络中被复制、串联和放大。当任务链条拉到第17步时，智能体拐错一个弯，后面几步可能全部偏离。公约要回答的正是这个问题：凭什么让人相信它不会在第17步拐错弯。

第五条把“治理机制”写进公约

八条公约中，最引人关注的是第五条：健全智能体治理机制。具体表述为“规则表达与内嵌合规性测试，抵制算法压榨、黑灰产”。

这一条把治理从原则层面拉到了可操作层面。“规则表达与内嵌”指向的是把合规要求写进智能体的运行逻辑里，而不是事后追查；“合规性测试”意味着在智能体上线前要有可验证的检查环节；“抵制算法压榨、黑灰产”则直接点明了智能体可能被滥用的两个方向——用自动化能力对用户或劳动者进行规模化压榨，以及把智能体当作黑灰产的工具。

值得注意的是，公约没有停留在“应当加强管理”这类笼统表述上，而是把治理机制拆成了规则表达、内嵌测试、抵制具体滥用行为几个可落地的动作。

朱殿君的“可监控、可干预、可叫停”落到工程上

同一天，腾讯集团副总裁朱殿君也出现在“智能体互信互联互操作全球合作创新”分论坛上。他提到“身份与权限边界，全程可监控、可干预、可叫停”。

这组措辞听起来像产品发布会的语言，但落到工程层面，每一项都对应着真金白银的投入：

• 身份与权限边界，意味着要重构权限架构，给不同智能体划定可访问的资源和可执行的操作范围；
• 全程可监控，意味着在运行时嵌入可观测的控制点，持续记录智能体的调用链路和决策路径；
• 可干预、可叫停，意味着要在系统里预留中断机制，在异常发生时能够及时熔断，而不是等任务跑完再复盘。

这些工程构件——分层次、可验证的身份标识，权限授予与控制，运行监测，异常熔断，规则表达与内嵌——正是公约八条“软目标”背后的“硬工程”。抽象的“自律”概念，只有被拆成企业必须自己动手建造的系统能力，才有实际意义。

公约没有罚则，但划出一条此前不存在的线

行业自律公约由企业间自愿签署，没有罚则，也没有约定退出机制。它管不到那些不在乌镇签字的开发者，也管不到智能体在跨平台调用时越过某一家公司边界之后的行为。

但它划定了一条此前不存在的线：再拿智能体去搞自动化压榨或规模化黑灰产，就不能再说“没人告诉我不行”了。签署公约的企业在道义和行业规范层面已经做出了承诺，下一次智能体越界时，外界要看的是加入公约的企业能不能拿得出日志、熔断记录和权限声明，还是推说“是模型自己决定的”。

对智能体开发企业而言，兑现八个“软目标”的前提是投入“硬工程”。公约的“软”，需要用工程任务的“硬”来兑现。乌镇这一脚“制动”，踩下的不是智能体发展的速度，而是把行为边界和可追溯性摆到了与能力提升同等的位置。