一年后agent可能组建僵尸网络，四巨头齐呼刹车
谷歌、微软、OpenAI、Anthropic四巨头联合呼吁踩刹车
近日，谷歌、微软、OpenAI、Anthropic四家全球头部AI企业联合公开发声，呼吁全行业暂缓更高自主性Agent相关的前沿模型研发与落地推进。联合声明中提到，按照当前Agent技术的迭代速度，不排除12个月内出现可被恶意行为者操控、自主组建大规模僵尸网络的Agent产品的可能，一旦此类产品流入黑产链条，将对全球网络安全、金融系统、关键信息基础设施造成难以估量的破坏。
此次联合呼吁并非行业个例，据观点网整理的最新公开信息，已有超过20家AI企业的安全负责人参与到了相关风险预警的讨论中。
Agent技术野蛮生长，安全对齐缺陷成最大隐患
当前Agent技术正处于落地爆发期，多家企业的Agent产品已实现跨平台操作、自主执行复杂任务的能力，但技术狂飙的同时，安全漏洞问题始终未能得到有效解决。此前Anthropic公开承认，旗下Claude模型的安全对齐机制存在尚未修复的缺陷，目前暂无明确的解决方案，恶意攻击者可通过特定提示词绕过安全限制，操控Agent执行非法操作。
当前Agent技术存在的核心安全漏洞包括：
- 安全对齐机制存在缺陷，可被恶意提示词绕过限制；
- 自主执行任务的权限过大，缺乏有效的操作审计机制；
- 跨平台数据交互过程中存在数据泄露风险。
与此同时，Agent的可控性问题也引发学界高度担忧。数学家陶哲轩联合全球24位顶尖数学家发布联名公开信，向AI企业“宣战”，要求行业放缓高自主性Agent的研发速度。联名信中明确提到，当前Agent已具备基础的数学推导、代码编写能力，若被恶意利用，可被用于编写恶意攻击代码、破解加密系统，甚至自主扫描漏洞发起网络攻击，组建僵尸网络的担忧并非危言耸听。
行业陷入商业化与安全的博弈，暂缓研发呼声渐高
在安全风险的倒逼下，行业监管与企业商业化诉求的冲突愈发凸显。OpenAI已率先暂缓原定的上市计划，CEO奥特曼公开表态支持行业放缓前沿Agent模型的研发节奏，认为当前的安全防护能力不足以支撑更高自主性Agent的落地。
但部分企业仍持反对意见，认为放缓研发将导致企业在全球AI竞赛中掉队。受相关消息影响，近期AI芯片板块出现短期承压，多家芯片企业股价出现波动。业内分析人士指出，Agent技术是下一代AI交互的核心入口，全行业若完全叫停研发并不现实，但加快建立统一的安全评估标准、完善Agent的可控机制，已是当前行业的当务之急。
（本文内容与数据根据公开信息整理，不构成任何投资或技术建议，使用前请核实。）