检索增强生成（Retrieval Augmented Generation，简称 RAG）为大语言模型提供了一种实用的解决方案，使其能够访问特定且最新的信息。它通过直接将相关数据纳入 AI 的响应过程，避免了昂贵且耗时的模型重新训练。RAG 的核心在于，在 AI 生成答案之前，首先检索您自己的文档中的相关片段。该过程包含三个主要组成部分：分块（chunking）、嵌入（embeddings）和向量搜索（vector search）。分块将大文档分解为更小、更易管理的片段，以促进高效处理。嵌入将这些文本片段转换为数值表示，使计算机能够理解语义相似性。计算机无法直接比较含义，因此每个片段都被转换为一组数字，称为嵌入（embedding）。具有相似含义的文本，即使措辞不同，其嵌入在数学上也是相近的。系统实现了基于 SHA-256 哈希的嵌入缓存，以复用现有嵌入，显著降低处理时间和成本。向量搜索利用如 FAISS 等库，根据用户查询与片段数值嵌入的对比，快速找到最相关的片段。整个 RAG 流程包括：摄入文档、对文档进行分块、创建嵌入（含缓存）、将其存储于向量索引中、嵌入用户问题、检索匹配的片段，然后将问题与片段一同输入 AI，以生成基于事实的答案。这种方法确保答案 grounded 于原始来源，具备可扩展性，且无需重新训练模型即可轻松更新。有效的分块大小和稳健的检索机制是成功实施 RAG 的关键。