🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-10-31 22:04AI 生成

锁了版本就安全,数据说不是!13 天一个版本!vLLM 升级清单越滚越长,27% 破坏性改动连健康检查都查不出

有开发者统计 vLLM 一年发了 33 个稳定版,0.28 到 0.32 的破坏性改动从 4 条涨到 8 条,其中 8 条改默认行为却照样能启动。

大白话vLLM 是跑大模型推理的常用引擎,很多人像对待数据库一样锁一个版本就不动。有位开发者在 Dev.to 上扒了 PyPI 和 GitHub 的发布记录:过去一年 vLLM 发了 33 个稳定版,小版本之间中位间隔只有 13.5 天;SGLang 发了 19 个,LMDeploy 发了 12 个。更麻烦的是破坏性改动越来越多,从 0.28 到 0.32 一共 30 条,按作者自己的分类有 8 条会悄悄改默认行为,但用原来的启动命令照样能跑、健康检查也照样过。
对你意味着自己部署大模型推理的团队要留意:版本号大小不代表风险大小,锁版本不等于安全,升级前最好把破坏性改动和配置差异过一遍。

Dev.to 开发者基于 PyPI 与 GitHub 发布数据的个人统计与分析,作者未实际运行推理引擎

原文:Your LLM Serving Engine Ships Every 13 Days: Reading vLLM's Breaking-Change Lists as Upgrade Risk Data

打开巨象雷达,看今天全部 AI 动态