RAG 从知识入库到在线问答的完整流程是什么？

知识专题：RAG 架构与生成链路题目类型：系统设计技术难度：进阶

相关面经：258 篇题集来源：11 个

更新时间：2026-11-04

未标记

问AI

Kimi 千问 ChatGPT

反馈

考查重点：离线入库与在线检索生成。离线解析、切分、向量化并建索引；在线将问题检索出相关片段，整理上下文交给模型生成并附证据

本题目录

参考答案

核心回答

RAG（检索增强生成）通过检索外部知识，为大模型提供相关上下文，辅助生成有依据的回答。 以向量检索为例，完整流程分为两个阶段：

索引阶段（离线）：加载、清洗文档，切分为适合检索的片段，通过 Embedding 模型进行向量化，建立索引，并关联保存片段原文、来源等元数据。
检索生成阶段（在线）：将用户问题向量化，检索 Top-K 相关片段，按需过滤和重排，再将片段原文、原始问题和回答要求组织成 Prompt，由大模型生成答案。

例如，员工问“出差怎么报销”，系统先检索报销流程、凭证要求等制度条款，再据此组织回答。向量用于查找资料，片段原文才是模型生成答案的主要依据。

评估时，需要分别检查检索的相关性与覆盖度，以及答案的正确性和忠实性。其中，忠实性关注结论是否得到所用资料支持。资料不足时说明缺口，知识发生变化后同步更新索引及关联内容。

两个阶段怎样接起来？

下面用公司报销问答的假设场景说明。建库在资料新增或变化时进行，在线问答复用已经建立的索引。图中展示向量检索这条常见路径。

%%{init: {"themeVariables":{"fontSize":"17px","fontFamily":"sans-serif"},"flowchart":{"nodeSpacing":10,"rankSpacing":24,"padding":8,"diagramPadding":8,"curve":"linear"}}}%%
flowchart TD
    subgraph PREP[" "]
        direction TB
        D["知识准备：初始化或索引更新时<br/>报销制度文档"] --> C["读取、清理<br/>切成片段"]
        C --> V["为片段生成向量"]
        V --> K["建立索引，保存<br/>原文、来源和版本"]
    end
    subgraph ASK[" "]
        direction TB
        Q["在线问答：每次用户提问时<br/>原始问题：出差怎么报销？"] --> E["确定可访问范围<br/>将问题向量化"]
        E --> R["召回候选片段"]
        R --> P["按需重排、去重<br/>选择覆盖问题的证据"]
        P --> G["整理标题、原文与来源<br/>连同原始问题交给模型"]
        G --> A["生成答案<br/>检查内容及依据"]
    end
    K -->|索引与原文| R
    Q -->|原始问题| G
    K ~~~ Q

建库先保证资料能被正确读取和切分。 原始资料可能是 Word、PDF 或内部网页，加载后需要检查标题、正文和表格是否完整。切块时应尽量保留一个条款的适用条件和具体要求。比如把“哪些费用可以报销”和“必须提供什么凭证”拆得太散，后面可能只查到一半；把整本员工手册当成一块，又容易带入大量无关内容。块大小和重叠长度要根据文档结构及实际检索结果调整，没有通用的最佳值。

切块还要保留适用范围。例如正文只有“须提供发票”时，脱离“差旅报销／住宿费用”的标题，就不清楚这条要求针对哪种费用。可以把标题路径、条款正文和来源关联起来，在构建上下文时一并提供，避免检索到正确句子却用错场景。

然后把片段变成可检索的数据。 向量检索需要为每块正文生成向量，同时保存可取回的原文，以及文件名、章节、版本等元数据。向量用于匹配，原文供模型阅读，元数据用于查来源和限制检索范围。这些数据可以放在同一存储中，也可以通过片段 ID 关联，关键是检索结果能准确回到原文。查询与文档必须使用兼容的向量空间；常见做法是使用同一套 Embedding 模型，并遵守它对查询和文档的输入要求。

在线问答先找齐需要的证据。 收到“出差回来怎么报销”后，先确定可访问的制度范围，再检索相关条款。口语表达通常适合语义检索；如果问题中包含制度编号、产品型号等精确词，可以结合关键词检索。查询改写、混合检索和重排都是按需要加入的手段，不是每次问答都必须执行。重排能把候选中更相关的内容往前放，但候选里没有报销凭证要求，它也不能补出这条证据。

多轮提问还要先弄清楚省略了什么。例如上一轮在聊出差报销，用户接着问“那需要什么材料？”，可以结合历史把检索问题补成“出差报销需要哪些凭证材料”。这里补的是已经明确的上下文；如果前面既聊过差旅报销又聊过采购报销，就先确认用户问哪一种，再改写检索问题，让检索条件与用户的实际需求一致。

召回的候选片段，不必全部送给模型。 可以先召回较多候选，再按需重排，选择覆盖问题所需的材料。比如用户既问“如何申请”，又问“需要什么凭证”，选出的内容应同时包含申请步骤和凭证要求；如果前几条都重复介绍报销总则，排名靠前也不代表证据齐全。可以合并重复内容、保留互补条款；候选中仍缺少凭证要求时，就继续补查或明确说明缺口。

这里要区分两个限制：召回参数限制候选条数，上下文预算限制最终送入模型的内容长度。 Top-K 不是答案完整性的保证，也不等于固定把 K 条全文拼进去。片段长度不同，所占 token 数也不同，选择时要兼顾问题覆盖与输入长度，并给指令、问题和输出留出空间。

最后按来源组织证据，再生成回答。 为选中片段保留来源标识，把相关标题、条款原文和原始问题组织进 Prompt，要求模型依据材料回答、缺少依据时说明缺口。核对输出时，既看内容有没有漏条件，也看片段是否真正支持对应结论。例如引用的是“住宿费凭发票报销”，就不能据此概括“所有差旅支出都必须提供发票”；附上正确文件的链接，仍可能总结错适用范围。

放到代码里，检索结果怎样交给模型？

教程中的运维知识库用错误码文档演示了这条链路：Docx2txtLoader 读取 alibaba-java.docx，CharacterTextSplitter 切块，DashScopeEmbeddings 向量化，Redis.from_documents(...) 将切好的片段入库。在线部分是：

rag_chain = {"context": retriever, "question": RunnablePassthrough()} | prompt | llm

同一个问题分成两路：检索器根据问题取出材料，放进 context；RunnablePassthrough() 原样保留问题，放进 question。提示词模板汇合两路输入，再交给聊天模型。

例子问“00000 和 A0001 分别是什么意思”，检索器设置 k=2，表示最多取前两条结果，不代表两个错误码各命中一条。一个片段可能同时包含两者，也可能取回的内容只覆盖其中一个。判断能否回答，要看片段正文是否包含两个编码及其说明。

这段代码展示了最小流程：它直接把检索结果传给模板，没有独立实现片段去重、来源格式化、权限过滤或引用校验。实际应用中还需要增加这些处理。

文档更新后怎么办？

在线问答通常复用已有索引，新增、修改或删除文档时再更新相关内容。比如公司发布了新版报销制度，就要更新受影响片段，并移除或排除已经失效的旧版本，避免同一个问题同时查到两套规定。更换不兼容的 Embedding 模型时，也需要重新生成文档向量，不能拿新模型的查询向量直接比较旧向量。

更新后，用一批固定问题复查：需要的条款有没有召回，答案有没有漏条件，引用能不能支持结论。如果答案错了，先看取回的材料是否正确、完整，再判断是检索问题还是生成问题。相关题目：如何设计 RAG 评估方案和指标？。

常见追问

答案漏了“需要发票”，先改提示词吗？ 先沿着材料检查：制度原文有没有这条要求，切块后有没有保留，检索是否取回，整理上下文时有没有被删掉。如果材料根本没进入模型输入，只改回答提示词很难解决；材料已经完整给到模型，它仍漏答，才重点检查生成和答案校验。

为什么不直接把整份文档交给模型？ 少量、较短且需要通读的资料可以这样做。知识库很大或频繁更新时，按需检索便于控制输入量；是否采用 RAG，还要比较准确性、延迟和成本。两种方式都需要由系统执行权限检查。

每次都必须先检索一次吗？ 上面的固定管道是这样。Agentic RAG 可以让模型决定何时检索、是否继续补查，但也增加了调用次数和停止条件的管理，参见Workflow 和 Agent 有什么区别？。

对应教程

配套教程讲解 RAG 主流程；本文以公司制度问答为例，进一步说明文档更新和应用层检查。

第 19 章：RAG 检索增强生成 §1.3、§3.3：回看索引与在线问答的分工，以及错误码文档的完整链路；该章 §3.3 已展示配套完整代码，可核对数据流与 k=2 的设置。
第 18 章：向量数据库与 Embedding 实战 §4.1～4.2：理解文档向量化、查询向量化与聊天模型的分工。

参考资料

国内：小林面试笔记：什么是 RAG？完整 RAG 系统的工作流程：借鉴离线索引与在线问答的两阶段划分，以及召回后再排序的讲解；正文按实际需要说明重排和知识更新。
国内：JavaGuide：RAG 基础概念——检索、生成与工程取舍：参考上下文组织、引用错配和输入成本的讨论，解释证据整理与生成仍可能引入错误，以及 RAG 与整篇文档输入的选择条件。
国内：王二讲 Agent：RAG 完整流程与检索后重排：参考初步召回与候选再排序的职责区分，用于展开中说明为什么召回结果仍需筛选。
国内：阿里云百炼：RAG 核心概念：依据处理链路与关键术语，区分解析、切片、向量化、检索、重排和生成，说明 Top-K 返回的是候选片段数量。
国内：Hello-Agents：第八章「记忆与检索」§8.3.4：参考结构化分块中保留标题路径和原文位置的做法，说明为何条款不能脱离适用范围，来源信息如何跟随片段进入上下文。
国外：LangChain：Retrieval：参考固定检索与 Agentic RAG 的方案区分，解释每次请求的检索行为由固定流程还是模型决策控制。
国外：LlamaIndex：Introduction to RAG：依据检索、后处理和响应生成的职责，说明候选片段还可过滤、重排后再用于生成，以及复用索引、持续评估的分工。

相关面经

258 篇

哔哩哔哩（B站）

测试开发实习

2026-11-12实习二面