🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-10-30 11:41AI 生成

同样的输入,中转站报的 token 比官方多三成?一段脚本当场验明正身

Dev.to 有开发者晒出对比脚本:同一请求分别打给中转站和官方 API,模型名、Token 数、参数、工具调用四项一比对,猫腻全现形。

大白话很多人图便宜,把 base_url 一换就用上了 OpenAI 兼容的中转站,代码不用改、账单还便宜。但请求发出去到模型之间发生了什么,你根本看不见。这位作者的做法很朴素:同一个问题,同时发给中转站和官方 API,然后比两边的回答。重点看四件事——返回的模型名对不对、prompt token 数是不是虚高、max_tokens 这类参数有没有被吞、工具调用能不能完整走完一轮。作者说,如果中转站对同样的输入稳定多报 20% 到 30% 的 token,那就是在偷偷多收你钱,或者往你的提示词里塞了隐藏的系统提示。
对你意味着凡是用中转 API 省钱的人、尤其是跑 Agent 的开发者都该看一眼:工具调用第二轮就崩,很可能不是你的代码问题。

Dev.to 开发者个人技术帖,方法与结论为作者观点,未涉及具体中转服务商

原文:How to check an OpenAI-compatible API relay against the official API (with a Python script)

打开巨象雷达,看今天全部 AI 动态