🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-11-06 10:31AI 生成

批量跑 AI 最烧钱的,居然不是模型本身!跑 120 条笔记烧的钱,全被自己的重试循环吞了?开发者 48 小时血泪复盘

一位开发者用免费服务器加免费模型跑 120 条文本摘要,结果发现真正烧钱的不是模型,而是自己写的那个没有幂等、没有断点的重试循环。

大白话这位开发者周末想对比 3 套提示词,把 120 条内部笔记批量丢给免费模型跑摘要。他一开始用 for 循环套 curl,结果第一天就踩了三个坑:幂等键里塞了时间戳,重试一次就多一条重复结果;结果全攒在内存里,进程一崩全白跑;遇到 429 限流也不看 Retry-After 头,照旧按固定节奏猛冲。他最后写了个能断点续跑的批处理脚本,用内容哈希当键、每行结果立刻落盘、请求数设硬上限。
对你意味着如果你也用脚本批量调模型做摘要、打标、翻译,这篇能帮你少烧一晚上的冤枉钱;核心结论是先把重试和存档写对,再谈模型选型。

Dev.to 开发者个人实战复盘,数字仅为作者自身任务参数,非任何服务的性能评测

原文:48-Hour Field Notes: The Retry Loop Cost More Than the Model Did

打开巨象雷达,看今天全部 AI 动态