你的 AI 智能体,可能一直在白烧钱!0 Token 编译意图、注入防护 100%?这开源库要把 Agent 的 Token 税打穿
有开发者在 Dev.to 发布 agent-intent-compiler,宣称把自然语言先编译成强类型 DAG 再调工具,编译耗时 0.28ms、Token 成本归零,还能挡住隐藏字符注入。
大白话平时用 LangChain、AutoGen 这类框架搭 AI 智能体,常见做法是把用户的话直接丢给大模型,让它自己决定调哪个工具、传什么参数。问题是模型会漏参数、编参数,还可能被藏在文本里的零宽字符或越狱指令带跑偏,多轮商量工具顺序也白烧 Token。这个开源库的思路是:先本地把用户意图编译成一份带类型的任务流程图(DAG),检查参数、排好哪些步骤能并行,再交给 MCP 去执行。作者贴出的对比表里,编译延迟 0.28ms、Token 消耗为 0。
对你意味着自己搭智能体、被工具调用报错和 Token 账单折磨的开发者可以看看思路;不过数据都是作者自测,生产环境效果还得自己验。
作者在 Dev.to 发布的自述与自测基准,性能数据未经第三方验证
打开巨象雷达,看今天全部 AI 动态