Salesforce与英伟达的新推理模型，正是AI实验室最该害怕的东西

一款名为Koa的新AI模型，是Salesforce本周在其大型Dreamforce科技大会上发布的最重磅消息之一。Koa是该公司首个推理模型，基于英伟达的开放权重Nemotron模型构建。两家公司合作对Koa进行后训练，使其擅长销售、营销和客户支持相关任务。 Koa是一个鲜明例证，说明企业世界对AI的需求正与前沿实验室提供的东西日益分化。专有AI实验室更希望企业将文件、代码、提示词和反馈直接上传到它们的模型和智能体中，并为此花费数百万美元。 不过，借助这一模型，Salesforce正在为其企业客户提供： Koa将作为Salesforce在其Agentforce平台中提供的其他模型之外的一种替代选择。在该平台上，客户可构建智能体，来处理回答客服问题或安排预约等机械性任务。 Salesforce AI执行副总裁Jayesh Govindarajan对TechCrunch表示：“我们已经构建了许多小型、面向特定任务的语言模型，它们是Agentforce产品组合的一部分。但推理一直是我们依赖前沿模型提供商的地方。直到现在。” 在Koa之前，如果智能体需要针对长时间运行或多步骤任务进行推理，这些提示词会通过Agentforce的AI网关（决定由哪个模型处理哪个请求的系统）路由到Claude或ChatGPT等前沿模型。 Govindarajan说：“我们此前没有这样做——训练自己的企业级前沿模型——的原因之一是我们一直想这么做，但挑战始终在于缺少一个可供起步的预训练基础模型。在Nemotron出现之前，不存在一个同时满足以下条件的美国自主预训练模型：第一，可用；第二，处于最先进水平；第三，具有清晰的数据来源。我们根本不知道Qwen是用什么训练的。”他指的是阿里巴巴推出的流行中国开放权重模型。 对这样的模型进行后训练，意味着将它从通用系统转变为精通销售和客户支持知识的系统。为此，Salesforce和英伟达没有使用Salesforce客户的任何真实数据，而是精心构造了模拟客户模式的合成数据。 Govindarajan描述道：“我们实际上模拟了一个客户服务环境，里面有客服专业人员的角色，包括打进客服中心的愤怒客户，一直到试图达成交易的销售专业人员。” Koa旨在比把同样任务发送给Claude或ChatGPT更擅长完成Salesforce客户希望智能体做的工作任务，并且在消耗的token方面更便宜。 英伟达企业生成式AI软件副总裁Kari Ann Briski对TechCrunch表示，借助Nemotron，“我们拥有独特的推理架构，可实现token高效。这有点像你必须具备的三重优势：主权AI、首token时间、高效推理，而这些都关乎整体的token经济学。” 不过，Salesforce并未真正放弃Anthropic或OpenAI。它刚刚宣布与Anthropic建立名为ClaudeForce的合作关系，允许企业将Claude作为其AI界面，同时其数据仍保留在Salesforce的记录系统中，并由其基础设施提供安全保障。