便宜三倍的推理卡，真不能打吗？带宽差 6 倍价格只贵 3 倍：GDDR7 硬刚 HBM3E，算完账结论反转了

大白话很多人挑推理卡第一反应是比带宽数字：HBM3E 单堆栈约 1.2 TB/s、顶配能到 8 到 9.6 TB/s，GDDR7 在 384 位总线上只有约 1.5 TB/s，看着差 6 倍。但作者说，真实推理里很多场景根本吃不满带宽，瓶颈是并发批大小。批一开大，权重读取被摊薄，真正卡脖子的是 KV 缓存，这时候窄总线的 GDDR7 才开始吃亏。可 GDDR7 只要三分之一的价钱，按每美元吞吐量一算，两者只差 20% 左右。

对你意味着关心 AI 推理成本、自己搭服务或做硬件选型的人值得看：便宜卡不是不能打，但要先算清你的批大小和上下文长度。