你的 RAG 地板,早就塌了!模型换了一圈还是答错?RAG 翻车真凶藏在没人看的文档层
一篇 Dev.to 长文指出,RAG 答非所问多半不是模型不行,而是喂进去的文档在进向量库之前就已经烂了。
大白话很多人搭 RAG 遇到同一个坑:演示时很惊艳,上线后回答开始飘,说得有模有样但就是错的。第一反应是换更大的模型、加长提示词、上重排器,结果往往没用。这篇文章说,问题出在更前面的一层——文档预处理。模型并不「懂」你的文件,它只读检索器递过来的那几千个 token,如果正确段落没被捞出来,或者捞出来的全是页眉页脚废话,再强的模型也救不了。文章还讲了压缩为什么安全(按用途重新编码,正文和印章无损保留,体积能砍 60%–80%)、语义检索为什么比文件名匹配强(能把「我们跟谁签的」对上「乙方」条款),以及 token 成本到底花在哪。
对你意味着如果你在做企业知识库、客服问答或文档助手,这篇能帮你少走「无脑换模型」的弯路;先修地板,再谈天花板。
原文:Why Your RAG Answers Drift: The Document Layer Nobody Talks About
打开巨象雷达,看今天全部 AI 动态