NVIDIA宣布推出一项生成式 AI 微服务，让企业能够将自定义大型语言模型连接到企业数据，从而为其 AI 应用程序提供高度准确的响应。
NVIDIA NeMo™ Retriever 是 NVIDIA NeMo 系列框架和工具中的一款新产品，用于构建、定制和部署生成式 AI 模型，可帮助组织通过企业级检索增强生成 (RAG) 功能增强生成式 AI 应用程序。
作为语义检索微服务，NeMo Retriever 可帮助生成式 AI 应用程序通过 NVIDIA 优化的算法提供更准确的响应。使用微服务的开发人员可以将他们的人工智能应用程序连接到位于云和数据中心的业务数据。它为 AI 代工厂添加了经过 NVIDIA 优化的 RAG 功能，并且是 NVIDIA AI Enterprise 软件平台的一部分，可在 AWS Marketplace 中使用。
Cadence、Dropbox、SAP 和 ServiceNow 是与 NVIDIA 合作将生产就绪的 RAG 功能构建到其定制生成 AI 应用程序和服务中的先驱者。
NVIDIA 创始人兼首席执行官黄仁勋表示：“具有 RAG 功能的生成式 AI 应用程序将是企业的下一个杀手级应用程序。” “借助 NVIDIA NeMo Retriever，开发人员可以创建定制的生成式 AI 聊天机器人、副驾驶和摘要工具，这些工具可以访问其业务数据，从而通过准确且有价值的生成式 AI 智能来提高生产力。”
全球领先者利用 NeMo Retriever 提高 LLM 准确性
电子系统设计领导者 Cadence 为超大规模计算、5G 通信、汽车、移动、航空航天、消费者和医疗保健市场的公司提供服务。它正在与 NVIDIA 合作开发 RAG 功能，用于工业电子设计中的生成式 AI 应用。
Cadence 总裁兼首席执行官Anirudh Devgan表示：“生成式 AI 引入了创新方法来满足客户需求，例如在设计过程早期发现潜在缺陷的工具。” “我们的研究人员正在与 NVIDIA 合作，使用 NeMo Retriever 进一步提高生成式 AI 应用程序的准确性和相关性，以揭示问题并帮助客户更快地将高质量产品推向市场。”
破解准确生成人工智能应用的密码
与开源 RAG 工具包不同，NeMo Retriever 通过商业上可行的模型、API 稳定性、安全补丁和企业支持支持生产就绪的生成式 AI。
NVIDIA 优化的算法为 Retriever 的嵌入模型提供了最高精度的结果。优化的嵌入模型捕获单词之间的关系，使LLM能够处理和分析文本数据。
使用 NeMo Retriever，企业可以将其LLM连接到多个数据源和知识库，以便用户可以轻松地与数据交互，并使用简单的对话提示接收准确、最新的答案。使用 Retriever 支持的应用程序的企业可以让用户安全地访问跨多种数据模式的信息，例如文本、PDF、图像和视频。
企业可以使用 NeMo Retriever 以更少的培训获得更准确的结果，加快上市时间并支持生成式 AI 应用程序开发中的能源效率。
借助 NVIDIA AI 实现可靠、简单、安全的部署
企业公司可以部署 NeMo Retriever 支持的应用程序，以便在几乎任何数据中心或云上的 NVIDIA 加速计算推理过程中运行。NVIDIA AI Enterprise 支持使用 NVIDIA NeMo、NVIDIA Triton Inference Server™、NVIDIA TensorRT™、NVIDIA TensorRT-LLM 和其他 NVIDIA AI 软件进行加速、高性能推理。
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/38501.html
