幻觉与应对 RAG 检索增强生成：让模型「开卷答题」 PM 视角：什么场景必须上 RAG？如何设计检索流程？落地的坑在哪里。 手段 02 / 04 · 预防 一句话速览 真实文档注入上下文，5 步交互流程动画，对比有无 RAG 的差异

选择业务场景

场景 A · 法律 / 合规 合同审查 / 法规查询助手 法规频繁更新，模型训练数据有截止日期，极易引用已废除的旧条文。

场景 B · 医疗健康 药品说明 / 用药建议助手 用药方案高度个性化，模型的通用知识无法反映患者具体情况与医院规范。

场景 C · 产品文档 SaaS 产品技术支持机器人 产品迭代快，版本号、功能路径频繁变化，模型只记得训练时的旧版本。

PM 决策框架：什么时候必须上 RAG？

✅ 知识时效性强 ：政策/产品/价格频繁更新，模型训练数据赶不上

✅ 私有知识库 ：公司内部文档、产品手册，模型根本没见过

✅ 答错代价高 ：法律、医疗、金融场景，错一句可能引发事故

⚠️ 闲聊/创意场景不需要 ：RAG 反而让回答更死板

对话对比

↺ 重播

对比视图 RAG 流程图 为什么有效

无 RAG（闭卷）

有 RAG（开卷）

下一步 → 重置 第 0 / 7 步

步骤 1：点击「下一步」开始

点击左侧「下一步」查看每步细节 →

无 RAG：闭卷考试

问题 → × 训练记忆推断

前文只有问题本身，模型只能靠训练数据里的印象来推 Token

有 RAG：开卷考试

真实文档片段 + 问题 → ✓ 准确回答

检索到的文档成为前文的一部分，直接影响每步 Token 的概率分布

模型本质是 Token 推 Token ，推出什么取决于前文是什么。 RAG 就是 「用检索到的真实文档作为高质量前文」 注入上下文： 相同的模型，前文换了，后文的概率分布就变了。 模型没有变聪明，只是有了一个更好的起点。

⚠ 局限性：RAG 不是银弹

检索本身可能出错

检索召回的文档片段不准确时，模型会把错误文档当作真实依据， 幻觉不但没减少，还多了一个权威出处的外衣

模型仍会脑补文档外的内容

检索到的上下文窗口有限，超出范围的部分模型仍会用训练记忆补全， RAG + 幻觉混合输出，比纯幻觉更难被用户识别

PM 应对策略

RAG 的质量上限 = 知识库质量。需要建立 检索命中率评测 ，同时用 引用来源强制显示 让用户可核查