你的 AI 知识库,一半是垃圾!零依赖 60 行代码!把任意文档站洗成干净 Markdown,RAG 垃圾块终于有救了
开发者用 Python 标准库写了个小脚本,只留正文、砍掉导航和 Cookie 横幅,实测一个文档页洗出约 3800 词干净内容。
大白话做 RAG 聊天机器人最烦的第一步:网页里八成是菜单、页脚、Cookie 弹窗和脚本,直接喂给模型,切出来的片段全是「跳到主要内容」这种废话。这位开发者的思路很简单:只抓正文区域,把标题、段落、列表、代码块转成 Markdown,其余全扔掉。好处是标题天然成了分段边界,按二级标题切块比按固定字数硬切检索效果好得多,而且 Markdown 比原始 HTML 小很多,省 Token。
对你意味着自己做知识库、给 AI 喂文档的开发者可以直接抄;但它不处理表格和链接,整站爬取、robots.txt 也得自己补。
原文:Turn Any Docs Site Into Clean Markdown for RAG (Python, No Dependencies)
打开巨象雷达,看今天全部 AI 动态