Salesforce 联合英伟达推出 Koa 推理大模型,挑战闭源前沿模型
本周于旧金山举办的Dreamforce技术大会上,全球CRM龙头Salesforce正式发布旗下首款推理大模型Koa,这款由Salesforce与英伟达联合研发的产品,直接瞄准了当前企业AI服务中被闭源厂商垄断的高端市场,标志着企业级AI路线开始出现明显分化。

Koa嵌入Agentforce直击企业AI核心痛点
作为Agentforce平台的首款内置可选推理模型,Koa的核心定位是处理企业客户的高频重复性业务工作,包括智能客服问答、预约排期、销售线索跟进等场景。相较于此前企业需要额外采购第三方闭源大模型服务的模式,Koa为企业客户提供了六项核心能力:
- 作为闭源前沿大模型之外、采用开源权重的合规备选方案
- 专门针对销售、市场营销、客户服务等实际业务任务训练,而非主打高难度数学、编程等通用能力
- 训练过程未摄入任何真实客户数据,从根源上杜绝敏感信息泄露风险
- 完成同等业务任务消耗的Token数量大幅减少,有效降低企业AI使用成本
- 可通过Agentforce的AI网关实现自动调度路由,灵活适配不同业务场景的请求需求
- 安全机制深度内嵌Salesforce平台内部,完全遵从企业客户的严苛数据管控要求
此前Salesforce复杂推理任务长期依赖外部闭源厂商
在Koa问世之前,如果Agentforce平台的智能体需要完成长流程、多步骤的复杂推理任务,对应的提示请求会经由AI网关转发至Claude、ChatGPT等第三方前沿大模型处理。Salesforce人工智能业务高级副总裁杰耶什·戈文达拉扬在接受采访时直言,团队此前一直有开发自研企业级高性能推理模型的想法,但受限于预训练底座的缺失始终未能落地:“美国本土此前没有一套同时满足三点要求的自主预训练底座:性能处于行业第一梯队、拥有清晰完整的数据溯源、可自由进行后续微调。比如我们对千问(Qwen)这类开源模型的训练数据来源并不清晰,无法满足企业级合规要求。”
而英伟达开源的Nemotron模型恰好打破了这一僵局,其清晰的训练数据溯源和第一梯队的性能表现,让Salesforce终于有了合适的微调底座,双方联合完成了针对企业业务场景的定向优化训练。
零真实客户数据参与训练筑牢数据安全防线
为了满足企业客户的数据合规要求,Salesforce与英伟达在Koa的微调训练阶段,完全没有使用任何Salesforce的真实客户数据,而是自行生成了全仿真业务的合成数据集。戈文达拉扬介绍:“我们完整模拟了客服业务的全链路场景:设定专职客服人员角色、模拟打进热线的愤怒投诉客户,也模拟了努力推进成交的销售人员,所有训练数据都是人工合成的模拟内容,全程没有接触任何真实客户信息。”这种训练方式不仅规避了数据泄露风险,也让Koa的输出逻辑完全贴合Salesforce平台的服务规范。
成本与安全优势叠加填补企业AI市场空白
当前企业AI市场正经历一场信任危机:今年6月Anthropic调整政策,允许其Fable模型保留客户数据30天用于滥用检测,直接触发英伟达、Palantir、Booz Allen Hamilton等多家头部企业客户的敏感数据使用限制,这些企业已经禁止在核心业务项目中使用Anthropic和OpenAI的闭源模型。而Koa的出现恰好填补了这部分市场空白:相较于调用第三方闭源模型,Koa的执行成本大幅降低,且完全内嵌在企业已有的Salesforce平台中,无需向外传输任何敏感数据,完美契合了企业对数据可控、成本可控的核心需求。
定向优化技术让开源底座实现业务场景性能越级
相较于通用闭源大模型的“大而全”路线,Koa采用了多项定向优化技术实现业务场景的性能越级:首先采用过程监督奖励模型(PRM),对推理过程中的每一个中间步骤进行精准评估,一旦推理步骤偏离企业业务规范(例如生成退款凭证前未校验库存系统),生成器会立即回溯,避免浪费不必要的推理算力;其次借助英伟