✅ 收束 · 知识点一句话总结
RAG 是给 LLM 装的可检索的外部记忆——让「模型的知识」和「业务的知识」解耦,模型只负责推理,知识从库里按需取。一条主线串起全卷:① 11 步流水线——离线(清洗→切分→向量化→入库)+ 在线(查询改写 HyDE→向量化→检索→Rerank→上下文扩展→注入→生成),关键在 Rerank(向量相似≠真正相关,交叉编码器过滤假阳性)和上下文扩展(取前后 chunk,避免孤立段落);质量看 RAGAS 五指标,先看 Faithfulness(底线不编造)+ Context Recall(漏斗顶端);② 向量数据库是倒排索引的语义版——一张表存 content+embedding+metadata 三件套,ivfflat(百万级分桶)/hnsw(千万级图)做 ANN,metadata 过滤 + 向量+BM25 混合兼顾语义与精确词,中文必须用中文 Embedding;③ Agent RAG 本质区别在失败影响范围——传统 RAG 失败只是答案不准,Agent RAG 失败让推理偏航整条链崩(排障先查检索层);三种触发策略(Pre-retrieval/On-demand/混合),CoT+RAG 让每一步推理都可能检索,Agentic RAG 让 Agent 自主决定检索策略;④ 六大坑本质是级联系统上游失误被下游放大——chunk 切断信息、Embedding 不匹配、检索污染、向量相似≠相关、知识过期(缓存脏数据)、多源权控混乱;排坑从上游往下游(chunk→embedding→检索量→注入→同步);⑤ 切分是第一个质量旋钮——块小检索准但会切断答案,块大完整但稀释相似度;顺序是结构切分 → 长度兜底(中文技术文档 300–800 token 是经验起点,不要迷信 512)→ 父子块(检索小、生成大)→ 上下文增强 → 最后才调重叠(10%–15% 覆盖跨界短答案,但成本同比例上升)。一句话背法:「结构定边界,长度做兜底,重叠最后加」。
11 步 全管道
Rerank 滤假阳性
异常先查 检索层
切分:结构优先 长度兜底