自进化AI新突破，Meta提出「路由式持续学习」新架构：API成本可降低72%
围绕Meta的新架构，公开报道给出的关键词很直接——给agent记忆装上“路由器”。这套名为“路由式持续学习”的方案，瞄准的不是让模型每次从头“刷题”，而是让Agent在持续使用中沉淀记忆与技能，再通过路由机制按需调用。报道称，这一架构可将API成本降低72%。在AI基础设施投入高企、推理账单成为商业化硬约束的当下，这一数字迅速引发关注。
Meta把“路由器”塞进Agent记忆
从报道披露的信息看，Meta新架构的核心动作，是把“记忆”与“调用”拆开处理。传统Agent往往需要把大量历史对话、任务上下文和模型能力一起塞进每次请求，上下文越长、调用轮次越多，API账单越厚。路由式持续学习则试图给这些记忆和技能加一个调度层：哪些内容需要被唤醒、哪些技能可以直接复用、哪些请求不必走全量模型，由“路由器”来分配。
这一思路对应的是“自进化AI”的关键难题。模型要在使用中变强，不能只靠一次性训练，也不能把所有新经验都堆进上下文。持续学习负责把新任务中的经验留下来，路由机制负责在后续任务中精准取用。报道用“给agent记忆装上路由器”作比喻，强调的正是这种按需调度能力。
对Agent产品而言，这意味着记忆不再只是被动存储，而是变成可检索、可组合、可复用的能力单元。API成本下降的逻辑也藏在这里：少传无关上下文、少做重复推理、少走无效调用。
72%的API账单被谁砍掉
72%的成本降幅来自报道口径，具体效果仍取决于任务类型、调用频率和路由准确率。但从架构方向看，成本优化主要来自三笔账。
- 上下文账：每次请求不再无差别携带全部记忆，减少长上下文带来的token消耗。
- 重复推理账：已经沉淀的技能和结论可以被后续任务直接调用，不必反复让大模型从头推理。
- 训练与运维账：持续学习把新经验转化为可复用能力，降低频繁全量微调或重建Agent流程的成本。
这与此前AI产品暴露出的成本压力形成呼应。Grok Bot曾因额度消耗过快引发讨论，马斯克回应称服务成本相对收入高到难以为继；Character.AI等AI陪伴产品也被认为要从拼流量转向算成本。Agent要走向规模化，API单价只是表面数字，真正决定账单的是上下文长度、调用轮次、重试率和无效推理占比。路由式持续学习若能减少“每次都把全部记忆送进模型”的浪费，72%的降幅就有了工程上的解释空间。
从“刷题解题”转向“造工具”
Meta这套架构与近期另一条技术路线形成映照。腾讯混元发布Hyra 2.0时提到，系统采用三层架构与分层存储机制，可沉淀可迁移技能供后续调用，推动科研范式从“刷题解题”转向“造工具”。路由式持续学习同样强调：学习成果不应停留在一次任务的成功上，而应变成后续可调用的工具化能力。
这也回应了围绕大模型效率的争论。LeCun近期关于“规模从未起作用，下一token路线效率低”的表态引发讨论，其核心指向之一是：只靠堆参数和预测下一个token，未必能解决持续学习与推理效率问题。资料还显示，小型模型性能正在快速提升——微软Phi-3-mini仅用38亿参数就在MMLU达到此前5400亿参数PaLM的水平。参数规模缩减与架构效率提升并行，说明AI竞争正在从“模型有多大”转向
