Salesforce联合英伟达推出Koa推理大模型,挑战闭源前沿模型
Salesforce与英伟达合作发布Koa推理大模型,旨在以开放权重挑战闭源前沿模型,为企业AI应用提供高效、可定制的推理能力。
驱动中国9月15日消息,企业软件巨头Salesforce与芯片厂商英伟达联合宣布推出Koa推理大模型,这一动作被外界视为对当前闭源前沿模型格局的一次正面冲击。Koa模型基于英伟达加速计算平台构建,主打开放权重与高效推理,目标是为企业级AI应用提供更灵活、更低成本的替代方案。
Koa模型的命名源于夏威夷语中的“勇士”一词,寓意其在性能与效率上的突破。据Salesforce官方介绍,Koa系列包含多种参数规模的模型,其中旗舰版本在多项基准测试中表现优于同量级的开源模型,部分指标甚至接近或达到闭源商业模型的水平。这一成果得益于英伟达在GPU架构、推理优化以及模型压缩方面的技术积累。
从技术架构来看,Koa模型采用了混合专家(MoE)与稀疏注意力机制,在保持高精度的同时显著降低了推理时的计算开销。Salesforce表示,Koa在代码生成、数学推理、多轮对话等任务上展现出强劲实力,尤其适合处理企业场景中的复杂工作流,如客户服务自动化、销售预测分析和知识库问答。
此次合作并非两家公司的首次联手。早在2023年,Salesforce就曾与英伟达达成战略合作,将英伟达的AI Enterprise软件套件整合进其数据云平台。此次Koa模型的推出,进一步深化了双方在生成式AI领域的绑定。Salesforce的AI研究团队利用英伟达的NeMo框架进行模型训练,并借助TensorRT-LLM实现推理阶段的极致优化,使得Koa能够在英伟达的H100、L40S等主流GPU上高效部署。
值得关注的是,Koa模型采用开放权重策略,允许企业用户下载、微调并部署到自有环境中,这与OpenAI、Anthropic等公司主打的闭源API模式形成鲜明对比。Salesforce首席执行官马克·贝尼奥夫在声明中强调,企业客户不应被锁定在单一供应商的封闭生态中,开放权重模型能够赋予他们数据主权与定制自由。这一立场也呼应了近年来开源社区对企业级AI透明性和可控性的呼声。
行业分析人士指出,Koa模型的发布时机颇具深意。当前,企业级AI市场正从“拼参数”转向“拼落地”,推理成本与部署灵活性成为客户选择模型的关键考量。Salesforce凭借其在CRM领域的庞大客户基础,有望将Koa快速嵌入其Einstein AI助手、Agentforce平台等产品线,从而形成从模型到应用的闭环。而英伟达则通过此类合作,进一步巩固其作为AI算力基础设施提供商的地位,推动更多企业级工作负载迁移至其GPU平台。
不过,Koa面临的挑战同样不容忽视。Meta的Llama 3系列、Mistral的Mixtral等开源模型已在社区积累了大量用户与工具链支持,Salesforce需要证明Koa在特定企业任务上的优势足够显著,才能吸引开发者迁移。此外,闭源模型在复杂推理和多模态能力上仍保持领先,Koa目前主要聚焦文本与代码领域,多模态支持尚待完善。
据外媒报道,Koa模型已开始向部分早期客户提供预览,并计划在未来数月内通过Salesforce的AI云平台以及英伟达的NIM微服务全面开放。两家公司还透露,后续将推出针对金融、医疗、零售等垂直行业的定制版本,以加速行业渗透。随着企业AI竞争进入深水区,Koa能否成为撬动闭源格局的杠杆,市场将拭目以待。