一条命令的便利，值不值半张显卡？白瞎一半显卡：实测 Ollama 比原生推理慢 41%，开发者集体倒戈

大白话Ollama 这两年火，是因为它像 Docker 一样省事：一条命令拉模型就能聊。但这位作者说，省事的代价是性能。同样的硬件、同样的 Llama-3.1-8B 模型，原生 llama.cpp 每秒能吐 84.6 个 token，Ollama 只有 49.8 个，首字延迟也从 18 毫秒涨到 64 毫秒。原因大概是后台服务多了一层通信、预编译版本没针对硬件做极致优化、显存缓存也管得不够精细。作者的建议是：自己玩玩无所谓，真要做产品就换回原生方案。

对你意味着如果你在自己电脑或服务器上跑本地大模型，这篇能帮你判断值不值得为「一条命令」的便利牺牲近一半速度。