缓存一失效，钱就跟着蒸发！28k Token 卡 170 秒？AI 编程助手偷偷烧光你预算的真凶找到了

大白话用 AI 编程助手时，你有没有遇到过：只是让它改个错别字，它却卡半天，账单还蹭蹭涨？这篇 Dev.to 文章说，问题出在「缓存被误伤」。大模型为了省算力，会把读过的提示词缓存起来，但前提是新提示词必须和旧的一字不差地开头。很多智能体为了省 Token，会偷偷把前面的对话总结压缩，结果缓存全作废，模型只能从头重算一遍。作者还提到一个叫 contextWatcher 的 Rust 开源代理，靠保留前缀结构，把约 2.8 万 Token 的预填充时间从约 170 秒压到约 1.6 秒。

对你意味着只要你在用 Cursor、Claude Code 这类 AI 编程工具，账单和卡顿都跟这事有关；自己跑本地模型的，风扇狂转也可能是因为它。