嵌套数据小四成,稀疏数据反而更贵!给大模型少发 100 遍重复字段名,账单直降 25%?作者却自曝踩过大坑
开发者把 JSON 的键只写一次、值按位置排列,嵌套数据比压缩 JSON 小 21–42%,但稀疏数据上准确率和缓存成本翻车。
大白话有开发者在 Dev.to 上分享了自己做的数据格式 LWON:思路特别朴素——现在给 AI 发 100 行数据,id、status 这些字段名就要重复发 100 遍,其实模型只需要看一次。于是他把字段名提到开头当表头,后面每行只写值。在嵌套订单、GitHub issue、递归菜单这类数据上,比压缩后的 JSON 小 21–42%,跟另一款同类格式 TOON 在平表上基本打平。但他也老实交代:字段大量缺失的稀疏日志上,准确率反而略输 JSON,而且 0.x 版本因为要数占位符,模型思考变长,一道题成本最高贵到 3 倍。
对你意味着如果你在写 Agent、天天往模型里塞 API 返回结果,这套思路能直接省钱;但作者自己说别盲信,得拿自己的数据跑评测。
开发者个人博客与自测数据,非官方基准,效果需按自己数据复测
原文:I stopped sending JSON keys to my LLM 100 times. Here's what it saved (and where it didn't)
打开巨象雷达,看今天全部 AI 动态