模型根本不记得你上一句,全靠每轮重塞!聊得越久越烧钱?多轮对话成本竟按平方级暴涨,这篇长文把账算透了
一位独立研究者在 Dev.to 发长文指出:模型本身没有对话记忆,历史每轮重放,输入 token 的逻辑总量会随轮数呈平方级增长。
完整的大白话解读、专业细节和短视频口播稿,打开巨象雷达登录后查看。
Dev.to 独立研究者长文,成本数据为作者自算假设,非厂商官方数据
打开巨象雷达,看今天全部 AI 动态一位独立研究者在 Dev.to 发长文指出:模型本身没有对话记忆,历史每轮重放,输入 token 的逻辑总量会随轮数呈平方级增长。
完整的大白话解读、专业细节和短视频口播稿,打开巨象雷达登录后查看。
Dev.to 独立研究者长文,成本数据为作者自算假设,非厂商官方数据
打开巨象雷达,看今天全部 AI 动态