一次检索等 120 毫秒,这套方案把记忆搬回了本地!别再给智能体租向量库了!本地 SQLite 混合记忆把 RAG 延迟和账单一起砍掉
一位开发者在 Dev.to 发文称,把词法检索、向量嵌入和交易状态全塞进本地 SQLite,再异步同步到云端,能摆脱第三方向量库的延迟与单点故障。
大白话现在很多 AI 智能体记性差又烧钱:每轮对话都要把内容发到 Pinecone、Weaviate 这类云端向量库,一次检索要等上百毫秒,还要付流量费。这位作者的做法是反过来——把记忆存在本地 SQLite 里,用 FTS5 精确匹配交易哈希、链 ID、合约地址这类「一字不差」的字符串,用向量检索理解「我昨天那笔 USDC 转账花了多少 gas」这种模糊意图,两路结果合起来查。再通过 LibSQL(Turso)把本地数据异步同步到云端,机器重启也不丢记忆。
对你意味着做 AI 智能体、RAG 应用的开发者可以直接参考这套「本地优先 + 云端同步」的记忆方案,省掉第三方向量库的延迟和费用;不写代码的读者也能理解一个趋势:智能体的记忆正在从云端租用回到本地自持。
Dev.to 开发者个人技术文章,方案与代码为作者自述,未经过第三方验证
原文:Persistent Vectorized Agent Memory: SQLite FTS5 to Cloud LibSQL
打开巨象雷达,看今天全部 AI 动态