CPU 跑大模型慢,有人把速度翻了 5 倍!CPU 上语音识别快 5.5 倍?游戏脚本语言跨界做推理引擎,把 llama.cpp 按在地上摩擦
俄罗斯游戏大厂 Gaijin 的脚本语言 daslang 顺手写了个推理引擎 dasllama,纯 CPU 跑语音识别最高快 6.8 倍,连 GPU 上都能反超。
大白话daslang 本来是 2019 年 Gaijin 娱乐(做《战争雷霆》的那家)为游戏逻辑造的脚本语言,特点是编译快、静态强类型、不用在语言和 C++ 之间来回搬数据。2026 年有个游戏团队想做实时语音翻译:队友骂你一句外语,游戏里立刻转写、翻译、念出来,但 GPU 全被画面占着,只能挤 CPU 的边角料。他们试了 llama.cpp 发现延迟不达标,干脆用自家语言写了个推理引擎 dasllama,结果语音识别、语音合成、大模型推理在 CPU 上普遍快 2 到 6 倍。
对你意味着如果你在折腾本地跑模型、又只有 CPU 或显存不够,这份基准表值得看一眼;不过它是个新项目,生态和模型覆盖还远不如 llama.cpp。
原文:A game scripting language that runs speech-to-text 5x faster than llama.cpp on CPU
打开巨象雷达,看今天全部 AI 动态