使用基于RAG的生成式AI解决方案提高生产力 笔记

使用基于RAG的生成式AI解决方案提高生产力

那么,RAG 究竟是什么?简单来说,它代表“检索增强生成”(Retrieval-Augmented Generation)。让我们重点关注这两个方面:检索和生成。 对于标准的生成式 AI(GenAI),你提供一个提示,GenAI 应用会使用一个大型语言模型来为该提示生成一个合适的回复。 现在,想象一个应用程序,它可以从各种来源检索信息,然后根据检索到的信息生成回复。这正是 RAG GenAI 的工作方式。它为生成的示例提供了上下文。 让我们通过一个例子来进一步探讨。如果我们问 GenAI 应用“备份我客户数据库的最佳方法是什么?”,它可能会给出一些泛泛的答案。它不会了解我所说的客户数据库的细节。 现在,假设我有一份包含所有细节的设计文档。它有一个关于数据存储的部分,并明确列出了托管在 Amazon DynamoDB 上的客户数据库。该设计文档已上传到我们组织的 SharePoint。 因此,该应用程序将首先从 SharePoint 检索上下文信息,用检索到的信息增强提示,然后基于此生成回复。在这种情况下,该应用程序将提供备份 DynamoDB 数据库的策略,并引导我查看设计文档中的相关部分。