Salesforce 联合英伟达推出 Koa 推理大模型，挑战闭源前沿模型

在 Dreamforce 技术大会本周举办期间，Salesforce 发布了一款名为 Koa 的全新 AI 模型，这是其首款推理大模型，基于英伟达开源权重的 Nemotron 模型打造。两家公司共同完成了 Koa 的后续微调训练，使其擅长处理销售、市场营销和客户服务等任务。

Koa 是一个典型例子，表明面向企业的 AI 需求正与前沿 AI 实验室提供的产品逐渐分化。闭源 AI 实验室更希望企业直接将文件、代码、提示词和反馈上传到自家模型与智能体中，并为此花费数百万美元。

通过这款模型，Salesforce 向企业客户提供了以下能力：

• 作为闭源前沿大模型之外的、采用开源权重的备选方案
• 专门针对实际业务任务训练，而非主攻高难度数学解题
• 训练过程未使用任何真实客户数据，因此不存在客户数据泄露风险
• 有助于降低 AI 使用成本，完成同等业务任务时消耗更少的词元
• 可根据业务需求，通过 AI 网关实现自动调度路由
• 完全遵从客户的数据管控要求，安全机制深度嵌入 Salesforce 平台内部

Koa 将作为 Agentforce 平台上的可选模型。客户可在该平台构建 AI 智能体，用于处理客服问答、预约排期等重复性工作。

“此前我们已经开发过不少面向专项任务的小型语言模型，都属于 Agentforce 产品矩阵的一部分。”Salesforce 人工智能业务高级副总裁杰耶什·戈文达拉扬在接受《TechCrunch》采访时表示，“但复杂推理任务，过去我们一直依赖外部前沿模型服务商。这种局面到现在终于改变了。”

在 Koa 问世之前，若智能体需要完成长流程或多步骤推理任务，相应的提示请求会通过 Agentforce 的 AI 网关（负责分配不同请求交由哪款模型处理）转发至 Claude 或 ChatGPT 等第三方前沿大模型。

“过去我们迟迟没有训练自研的企业级高性能推理模型——其实我们一直有这个想法，但难点在于缺少合适的预训练基础底座模型。在 Nemotron 出现之前，美国本土没有一套自主可控的预训练底座，同时还需要满足三点要求：性能处于第一梯队，并且拥有清晰完整的数据溯源。对于千问是基于什么数据完成训练的，我们并不清楚。”戈文达拉扬谈及阿里这款知名的开源权重模型时说道。

对底座模型进行后续微调，就是将通用基础模型改造为擅长销售与客服业务知识的专用模型。Salesforce 与英伟达在微调阶段未使用任何 Salesforce 的真实客户数据；取而代之的是自行生成模拟业务的合成数据集。

“我们完整模拟了客服业务场景：设定专职客服人员角色，模拟打进客服热线的愤怒投诉客户，也模拟了努力推进成交的销售人员。”戈文达拉扬介绍道。

相比于将同类业务请求交给 Claude 或 ChatGPT 处理，Koa 的目标是更擅长 Salesforce 客户的业务工作，并在 Token 消耗上更加省钱。

依托 Nemotron 底座，“这套独特的推理架构可以很好地控制 Token 开销。”英伟达企业生成式 AI 软件副总裁卡里·安·布里斯基表示，“它同时达成了三项关键目标：AI 自主可控、首包响应速度快、推理运算高效，从 Token 经济层面实现理想效果。”

当然，Salesforce 并未放弃与 Anthropic、OpenAI 的合作。该公司刚刚宣布与 Anthropic 达成一项名为 ClaudeForce 的合作项目。企业用户可直接以 Claude 作为 AI 交互前端，同时所有业务数据仍保留在 Salesforce 的业务记录系统内，由 Salesforce 基础设施提供安全防护。