RAG 是什么?
by Canonical on 11 April 2025
在 2020 年的一篇论文中,Patrick Lewis 和他的研究团队引入了术语 RAG,即检索增强一代。该技术通过利用外部知识来源,如文件和广泛的数据库,增强了生成式 AI 模型。RAG 填补了传统大型语言模型(LLM)中的一个空白。传统的模型依赖于已经包含在其中的静态知识,而 RAG 则结合了最新信息,作为 LLM 的可靠事实来源。虽然 LLM 可以在没有 RAG 的情况下快速理解和响应提示,但它们通常不能提供最新或更具体的信息。
RAG 的一个实际应用是对话代理和聊天机器人。借助 RAG 模型,这些系统能够从外部来源获取上下文相关的信息,从而增强自身性能。这种能力确保客户服务聊天机器人、虚拟助理和其他对话界面在交互过程中提供准确和信息丰富的响应。另一个用例是在高级问答系统中,RAG 模型可帮助个人获得查询的答案,例如支持票证响应。此外,RAG 可用于内容推荐系统,通过检索相关信息提供个性化推荐,以增强用户体验和内容参与度。
使用 RAG 的好处
构建信任的数据源
将机器学习模型用于企业应用程序(例如聊天机器人)或搜索敏感数据时,RAG 为模型提供可引用的可验证信息。该方法使模型能够专注于不太模糊的背景信息,大大降低了产生错误输出的可能性,这种现象通常被称为“幻象”。
最新信息
使用 RAG,您可以加载最新的可靠数据,确保您的模型将检索到准确的信息。
RAG 的简单性
Lewis 和三位合著者发表了一篇题为《知识密集型 NLP 任务的检索增强生成》的论文,其中他们只用五行代码演示了 RAG。该实施生成了一个模型,包括一个问题编码器、一个检索器和一个生成器,用于生成上下文感知的答案。该实施的简单性表明,RAG 作为一个概念和项目相对容易操作。然而,在生产和大规模部署中,复杂性确实增加了。
降低持续模型重新训练的成本
持续重新训练机器学习模型可能会很昂贵。利用 RAG,不需要依赖于时间密集和昂贵的参数重新训练。这可能降低在企业环境中运行 LLM 驱动的聊天机器人的计算和财务成本。
RAG 的工作原理
当在 AI 聊天机器人中进行查询时,基于 RAG 的系统首先从大型数据集或知识库中检索相关信息,然后这些信息用于通知并指导生成回复。基于 RAG 的系统由两个关键组件组成。第一个组件是检索器,它负责定位有助于回答用户查询的相关信息。它搜索数据库以选择最相关的信息。然后,将该信息提供给第二个组件,即生成器。生成器是一个产生最终输出的大型语言模型。见下图:
在使用基于 RAG 的系统之前,必须首先创建知识库,它由未包含在 LLM 训练数据中的外部数据组成。这些外部数据可能来自不同的来源,包括文档、数据库和 API 调用。大多数 RAG 系统利用一种称为模型嵌入式 AI 技术,将数据转换为数字表示,并将其存储在矢量数据库中。使用嵌入式模型,您可以创建一个在 AI 环境中易于理解和检索的知识模型。在创建知识库并设置矢量数据库后,现在可以执行 RAG 过程;以下是一个概念性流程:
基于 RAG 的系统包含五个简单的步骤:
- 您可以通过输入提示或查询来开始操作。
- 检索器用于从知识库中搜索相关信息。通过矢量搜索和数据库功能,可以使用数学矢量计算和表示来确定相关性。
- 检索相关信息来提供增强的上下文,并将其传递给生成器。
- 现在使用这些上下文来丰富查询和提示,并准备好使用提示工程技术 (LLM)来扩充,以用于大型语言模型。增强的提示使语言模型能够准确地响应您的查询。
- 最后,向您发送生成的文本响应。
Canonical 满足您的 RAG 要求
使用 Canonical RAG workshop 构建正确的 RAG 架构
Canonical 提供为期 5 天的 workshop,旨在帮助您开始构建自己的企业 RAG 系统。在 workshop 结束时,您将对 RAG 和 LLM 理论、架构和最佳实践有一个透彻的理解。我们将共同开发和部署满足您特定需求的解决方案。
下载数据表
了解更多信息并联系我们的团队,以满足您的 RAG 需求。
订阅博客文章
查看更多内容
Ubuntu 20.04 LTS 标准支持周期终止 — 激活 ESM
ESM 确保设备集群的安全与运行性能 Focal Fossa 的标准支持周期将于 2025 年 5 月终止,也称生命周期终止(EOL)。Ubuntu 20.04 LTS 已然成为全球数百万物联网和嵌入式设备的关键组件,广泛应用于自助服务终端、数字引导牌、工业设备以及机器人系统等设备。该版本是医疗保健到制造业等各行业的企业进行创新的基础。与其他所有迎来标准支持周期终止的 Ubuntu LTS 版本一样,Focal Fossa 将转为扩展安全维护(EOL)模式。本文将为开发者和企业介绍相关选择,并说明如何启用 ESM 以持续获得支持。 在深入探讨之前,我们先来回顾一下 Ubuntu 版本为何存在生命周期终止(EOL)。 Ubuntu 版本为何存在 EOL? 每个 Ubuntu […]
2025 年第一季度芯片技术及设备发展概览
欢迎阅读由 Canonical 首次发布的芯片技术与设备季度发展概览。 在第一季度,边缘人工智能和网络安全领域频频传出重大消息。半导体和软件生态系统领域的各大公司都在着力于在边缘实现更强大、更高能效的人工智能模型,同时增强其安全性,以满足诸如欧洲《网络弹性法案》(CRA)等合规要求。许多政府和行业组织现在也要求汽车系统中必须采取网络安全措施。Canonical 于近期宣布获得 ISO 21434 认证。 在 Canonical,我们亲眼目睹到安全可靠的嵌入式人工智能驱动系统是如何给我们的客户带来显著影响。如今,创新速度加快,为了帮助您及时了解最新的行业趋势,我们精心整理了一份关于芯片技术与设备的最新发展概览。 Arm 发布首款 Armv9 边缘 AI 平台 首先让我们聚 […]
Canonical 发布 Ubuntu 25.04 Plucky Puffin
Ubuntu 的最新临时版本,引入了适用于如 Spring 等热门框架的“开发软件包”,同时在各种硬件设备上增强了性能。 发布日期:2025 年 4 月 17 日 Canonical 宣布发布 Ubuntu 25.04,代号“Plucky Puffin”,用户可前往 ubuntu.com/download 进行下载并安装。 Ubuntu 25.04 搭载最新的 GNOME 48 桌面环境,支持三重缓冲技术,提供更好的安装和启动体验。引入适用于 Spring 框架的“开发软件包”,进一步扩大了 Ubuntu 中的工具链可用性。Canonical 携手合作伙伴在芯片技术上取得的进步,不仅为 Intel GPU 上人工智能工作负载提升了性能,同时还支持 AMD SEV-SN […]