AI 干长任务越干越糊涂,问题不在模型!20 万 Token 几分钟就烧光?AWS 开源方案把脚本占用砍掉 95%
AWS 官方博客拆解生产级 AI 智能体的四层上下文工程,配套开源项目 Deep Insight 实测:单个工具让脚本塞进上下文的 Token 减少约 95%。
大白话很多人以为大模型有 20 万 Token 的窗口就够用了,但真让它做数据分析、写报告这种活,十几分钟就能把窗口塞满,然后开始变笨、报错、烧钱。AWS 这篇官方博客把 Anthropic 等各家的经验整理成四层做法:架构上隔离上下文、用提示词控制、把中间结果丢到文件系统、再用独立智能体去校验。他们还做了个开源项目 Deep Insight 当样板,实测把脚本占用的 Token 砍掉约 95%,按需加载技能让系统提示词缩小约 97%。
对你意味着如果你在做多智能体或者长任务 AI 应用,这套分层思路能直接抄;普通用户也能理解为什么 AI 干长活会越干越糊涂。
打开巨象雷达,看今天全部 AI 动态