🤖
🤖
核心导读
Box 在开发者大会上发布 Box Content Retrieval,将英伟达 Nemotron 嵌入系统集成到产品核心,让智能体基于嵌入元数据更高效地回答查询。英伟达称查询速度可达原来的四倍,错误减少 20%,令牌用量减少 90%。该功能面向 Enterprise Advance 客户,明年初推出,并高度依赖 Box 的元数据与权限控制。
周四,在开发者大会上,Box 展示了一项新功能,将把英伟达的 Nemotron 嵌入系统构建到其产品核心之中。
这项新功能名为 Box Content Retrieval(Box 内容检索),它依托 Nemotron 生成的嵌入元数据,使智能体能够更高效地回答查询。
Box 表示,对用户而言,结果是查询更快、更准确且成本更低。英伟达生成式 AI 软件副总裁 Kari Briski 对 TechCrunch 表示,她预计查询回答速度将达到原来的四倍,错误减少 20%,令牌用量减少 90%。
该系统将面向 Box 所有 Enterprise Advance 客户提供,并于明年初逐步推出。
Box 首席执行官 Aaron Levie 表示:“这大幅提升了我们搜索技术对智能体的相关性。智能体不必再逐份阅读文档,我们可以返回文档中最相关于用户查询或智能体所执行任务的片段。”
该功能是英伟达 Nemotron Embed 项目的一项落地实现,该项目提供开放权重嵌入模型,以改进自动化检索系统。大型实验室往往忽视了这类模型,它们利用大语言模型对数据进行预处理,以便智能体更好地使用。这一领域一直是英伟达开源模型项目的重点;今年 7 月,其最新发布的 Nemotron 在衡量检索质量的 RTEB 基准测试中位居榜首。
Box 表示,该系统与主动型智能体配合使用时最为有用,并以律师为例称,在新系统下,律师理论上能够更容易地找到相关条款和判例。由于 Nemotron 的嵌入不只是简单关键词,而是映射底层概念,因此即使表述不同,搜索工具也能呈现相关的法律概念。
尽管 Nemotron 模型可免费获取,但该系统还高度依赖 Box 既有的元数据和权限控制,因此从头复刻颇具挑战。Levie 对 TechCrunch 表示:“我们大概把五种不同的技术打包进了一个简单的 API 中。”
分享这篇文章: