Anthropic团队零Rust经验起步,靠Claude完成核心API跨语言重构:CPU省40%,延迟降20%
零Rust经验团队,靠Claude把核心API重写了一遍
Anthropic最近完成了一项颇具代表性的工程改造,其Messages API服务从Python单体架构迁移到了Rust。据Anthropic平台工程负责人Katelyn Lesse在10月27日发布的Latent Space播客中透露,这个项目启动时团队里没有任何一名Rust开发者。
按照传统开发方式,跨语言重构往往需要先补充相关人才,再逐步完成迁移。但Anthropic选择了另一条路:让Claude承担大量代码编写工作。随着API使用规模扩大,原有的Python单体服务在CPU资源效率上开始感受到压力,团队决定用Rust重新实现Messages API。
在10月27日发布的Latent Space播客中,Katelyn介绍了这次迁移的具体过程。随着API使用规模扩大,Anthropic原有的Python单体服务面临CPU资源效率方面的压力,团队因此决定使用Rust重新实现Messages API。
Claude写代码,工程师管架构:一场明确分工的迁移战
这个项目的核心亮点在于AI与人类工程师的角色分配。Katelyn在播客中明确表示,Claude负责了大量代码实现工作,而人类工程师则将精力集中在三个关键领域:

- 系统架构设计:决定整体结构和技术方案
- 迁移策略规划:制定从Python到Rust的迁移路线
- 验证方案构建:确保重构后的服务行为与原来一致
团队没有让AI全权接管,而是通过影子流量双跑比对,将新旧服务同时运行,逐条对比响应结果正确性。据报道,该服务上周已经全量上线。
值得注意的是,平台还自己消化了底层技术变更可能带来的体验损失,比如在API层直接启用服务端压缩来补偿可能增加的接口响应体积。
CPU省四成、延迟降两成,影子流量双跑给出成绩单
改造效果在Katelyn口头给出的数字中十分直观:

- CPU资源消耗减少约40%到50%
- 首Token延迟改善约10%到20%
这套成绩的取得离不开影子流量机制的保障。通过将真实流量同时导入新旧两套系统并进行逐请求比对,团队可以在全量切流之前发现潜在的行为差异,大幅降低了跨语言重构带来的风险。这种“以AI大规模生成代码、以影子流量兜底验证”的组合,让团队在没有Rust专家的情况下依然敢于推进核心API迁移。
AI写代码的质量,最终还是人负责
Katelyn也聊到了网上关于AI低质产出的讨论,她的态度很明确:用了AI,质量还是你自己负责。这个观点在这个重构项目中体现得淋漓尽致——Claude虽然承担了高强度的编码工作,但最终的系统设计、迁移策略和验证方案全部由人类团队把关。
这也回答了一个更大的问题:当AI已经能承担如此复杂的开发任务,软件工程师还能做什么?在Anthropic这个案例中,答案是:工程师的价值从“怎么写代码”转移到了“如何定义问题、设计系统、验证结果并承担质量责任”。如何证明自己的价值,或许不再是写多少行代码,而是能否驾驭AI完成规模更大的工程,并用可衡量的指标(如CPU降低40%、延迟改善20%)来呈现成果。