你的内存不是被模型吃了,是被界面吃了!资源占用砍掉两个数量级?C++ 写的本地编程神器放话吊打网页版 agent
作者在 nullprogram.com 宣布 Prospero:用 C++ 原生界面跑本地编程 agent,声称比常见 harness 省约两个数量级的资源,但没放出任何基准测试。
大白话Prospero 是一个跑在本地的 AI 编程 agent 外壳,用 C++ 写、界面是原生 Dear ImGui,不是网页套壳。它自己不带任何模型,你得自己接 llama.cpp 做全本地,或者填 OpenRouter、Anthropic、OpenAI 的 API key。作者的说法是:大多数同类工具都是网页技术栈,光界面和运行时就要吃掉一大块内存,跟本地模型抢资源;换成原生 C++ 就能把内存尽量留给模型。不过这个「省两个数量级」目前只是作者口头说法,没有跑分。
对你意味着如果你在普通笔记本上跑小参数开源模型写代码,这类轻量外壳可能真能多挤出一点上下文空间;但先等社区实测,别急着信数字。
作者在个人博客公布的资源占用说法,未附基准测试,官方数据待验证
打开巨象雷达,看今天全部 AI 动态