作者小头像 Lv.1
13 成长值

个人介绍

这个人很懒,什么都没有留下

感兴趣或擅长的领域

暂无数据
个人勋章
TA还没获得勋章~
成长雷达
10
3
0
0
0

个人资料

个人介绍

这个人很懒,什么都没有留下

感兴趣或擅长的领域

暂无数据

达成规则

发布时间 2026/10/22 16:04:10 最后回复 yd_216394844 2026/10/23 01:31:34 版块 开发者空间
22 9 0
他的回复:
先说结论:RAG 并没有消灭幻觉,而是把“凭空编造”变成了“有据可查”——让大模型从“靠参数记忆回答”变成“先查资料、再依据资料回答”。原理可以拆成三步: 一、幻觉是怎么产生的 大模型的知识是训练时“压缩”进参数里的,参数本质是概率分布而不是数据库。提问时它做的是“按概率续写最像答案的文本”,当问题超出其知识范围或时效(比如训练之后的新政策、私有文档),它仍然会自信地续写,于是编出看似合理实则错误的内容,这就是幻觉。RAG 减少幻觉的机制RAG(检索增强生成)流程:用户提问 → 检索器(通常是 Embedding + 向量库)从外部知识库找出最相关的文档片段 → 把这些片段拼进 Prompt 上下文 → 大模型基于这些片段生成答案。 关键在于,模型被要求“只依据给定的检索内容作答”,答案的事实来源从“模型的参数记忆”转移到了“检索到的真实文档”。这样:1. 时效性问题被解决:知识库可以随时更新文档,模型不用重新训练就能回答新问题。2. 私有领域知识可用:企业内部文档本来不在训练语料里,通过检索注入,模型能回答内部问题。3. 可追溯:答案可以附带引用出处(哪篇文档、哪一段),用户能核验。 RAG 的局限(也很重要)RAG 减少但不根除幻觉:检索质量决定上限——召回的片段不相关或相互矛盾,模型仍可能编造;模型有时会“不听”检索内容,继续按自己记忆输出;切分太粗会丢失上下文、太细会碎片化。工程上常用手段:设置合理的 top-k 和重排序(rerank)、要求模型标注引用、检索不到时明确回答“知识库中没有相关信息”而不是硬答。 一句话总RAG 减少幻觉的本质,是把无依据的“生成”约束为有依据的“转述加综合”,事实锚定在外部文档上。结:三、      二、