系统不报警，不代表没出事！三分之一 LLM 报错被悄悄吞掉？你的 AI 智能体可能一直在假装健康

大白话很多做 AI 应用的人会给系统加“自愈”机制：请求失败就重试，模型报错就换一个更便宜的顶上，全程不报警。表面看很稳，状态码 200、面板一片绿。但文章说，问题就出在这：重试第三次才成功、降级换了个弱模型、上下文被悄悄换掉，用户拿到的是差一档的答案，却没人知道。作者引用 Datadog 的报告说，约三分之一的 LLM 错误其实是限流，被静默重试盖住了。限流不是随机故障，是容量问题，重试治不了，得加配额、排队或者做背压。

对你意味着如果你在做 AI 智能体或调用大模型的产品，这篇提醒你：不报警不等于没问题，重试和降级必须留下可统计的痕迹。