0.41 美元对 0.27 美元，差在哪？同一张卡同一个模型，成本竟差 1.5 倍：提示词才是隐藏的烧钱黑洞

大白话这位作者想算清楚租一张卡跑开源模型到底划不划算，于是用公式：每小时租金 ÷（每秒输出 token 数 × 3600）× 100 万。他发现公开跑分里最容易被搞错的不是租金，而是每秒 token 数——因为它取决于你喂什么提示词。同一张 RTX PRO 6000 Blackwell、同一个 FP8 权重、同一套 vLLM 参数，聊天类提示词最多撑到 32 并发，数学类能到 48，混合池能到 64，成本因此差了约 1.5 倍。原因在模型自带的 MTP 投机解码头：算术这种可预测的输出更容易被猜中，每步吐的 token 更多。

对你意味着自己租卡跑开源模型、或者按 token 采购推理服务的团队都该看看：别人报的每秒 token 数基本不能直接套用，得拿自己的真实提示词压一遍。