🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-10-31 14:59AI 生成

没人入侵,数据却串了,问题出在显存!宣称 100 万上下文,显存只够 68 万?Cloudflare 把别人的数据喂给了你

Cloudflare 官方复盘:GLM-5.3 在 Workers AI 上约两周内 155 条回复混入其他客户请求片段,全部来自超长提示词,无人入侵。

大白话Cloudflare 在 10 月 26 日发了事故复盘:8 月 27 日到 9 月 9 日这两周里,Workers AI 上跑的 GLM-5.3 有 155 条回复里夹带了别的客户的请求片段。原因不是被黑,而是两件事撞一起:模型对外宣称能吃约 100 万 token,但 GPU 上真正能放上下文缓存的地方只够 681,280 个 token,启动时没人拿这两个数对一下;再加上超长请求被标记拒绝却没真正中止,解码节点就拿着上一批请求留下的旧缓存继续生成。
对你意味着如果你在那段时间往 GLM-5.3 发过 68 万 token 以上的超长提示词,建议找 Cloudflare 客服问一下账号;自己用 SGLang 部署的人也值得看一眼版本。

原文:How a GPU Memory Mismatch Let Cloudflare's AI Serve One Customer Another's Data

打开巨象雷达,看今天全部 AI 动态