接口返回 200,你的活真干成了吗?HTTP 200 就等于成功:算 AI 成本别再被「假成功」骗了
有开发者指出,返回 200、JSON 能解析、结果真能用是三件不同的事;重试两次才出一个合格答案,那只是 1 个被接受的 job,不是 3 次成功。
大白话平时我们比价 AI 接口,习惯看「调用成功率」和「token 单价」。但这篇 Dev.to 文章提醒:接口返回 200 只代表服务器收到了请求,不代表答案能用。比如让 AI 填发票,字段对不上就得重试,重试三次才成一次,成本其实是三次的钱换一个结果。作者给了段 Python,把每次尝试单独记一行,按「最终被接受的 job」算通过率和单件成本,超时、报错、缺用量字段一律记成「成本未知」,不瞎猜成 0。
对你意味着自己接大模型 API 做产品、算毛利的人都该看,否则很容易把「调用成功」当成「活干成了」,成本表算得漂亮实际亏钱。
Dev.to 开发者社区技术文章,作者自述在多模型 API 平台 Tokatlas 工作,文中示例为虚构数据,非真实报价
原文:Count accepted jobs, not successful API calls, when comparing AI workflows
打开巨象雷达,看今天全部 AI 动态