Cloudflare 于 2026 年 10 月 26 日披露,托管在 Workers AI 上的 GLM-5.3 模型出现客户隔离故障。根据该公司的官方报告,2026 年 8 月 27 日至 9 月 9 日期间,155 条回复包含了其他客户请求中的数据。所有受影响的回复都针对超过 681,280 个 token 的提示词。
本条目在此被归类为已确认,因为它基于官方披露。普通提示词未受影响。Cloudflare 表示,Workers AI 上没有其他模型受到影响,也没有发现蓄意利用的证据。该公司仅表示受影响的客户数量“很少”,未说明具体人数。
两个故障如何叠加
第一个原因是配置不匹配:GLM-5.3 发布时上下文窗口为 1,048,576 个 token,但预填充 GPU 的 KV 缓存池仅能容纳 681,280 个 token。Cloudflare 表示,它事先已了解这一差异,并预期引擎会对无法装入缓存池的提示词返回错误。
第二个原因是平台使用的开源推理引擎 SGLang 在分离式预填充/解码模式下存在错误。过长的提示词在内部被标记为拒绝,并被替换为一个单 token 占位符,但系统并未以错误中止请求,而是继续执行。解码节点收到“传输完成”信号后,在读取仍保留早期请求数据的缓存页面的同时生成回复。客户收到的是 HTTP 200 而非 HTTP 400,回复看起来连贯。
时间线与修复
Knostic 的研究员 Gadi Evron 于 2026 年 9 月 8 日通过 Cloudflare 的 HackerOne 计划报告了该问题。9 月 9 日,该公司宣布发生事件,在宣布后 40 分钟内将模型下线,并在当天恢复,配置和引擎均已修正。
在修复中,预填充池扩大到约 204 万个 token,约为上下文窗口的两倍。Cloudflare 还修复了引擎中的拒绝路径,并建议所有运营方将 SGLang 更新到 0.5.22 或更高版本。主要修复已进入 SGLang 0.5.20,并在 0.5.21 和 0.5.22 中得到后续完善。
为什么这很重要
这一案例显示了大规模共享推理的实际风险:KV 缓存是客户之间的隔离边界,而不仅仅是性能细节。当缓存池大小与上下文窗口未一起核对,且错误路径未用模型的真实输出进行测试时,故障可能看起来像成功——返回 200 状态码和看似合理的 token 数量。
对于自行运行 SGLang 的团队,直接的教训是在每次部署变更时核对 KV 缓存池大小与上下文长度,并保持引擎更新。对于托管 API 的用户,这一事件提醒人们,即使回复看起来正常,在很长的提示词中也应谨慎处理敏感数据。
图片来源:Cloudflare 在其关于 GLM-5.3 KV 缓存暴露的官方报告中发布的示意图。
来源
- Cloudflare — Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLang
- Unite.AI — Cloudflare Says GLM-5.3 Bug Leaked 155 Responses Across Tenant Sessions
- AICoder — Cloudflare discloses a cross-request KV cache leak in GLM-5.3 on Workers AI
透明度:本文在人工智能辅助下制作,基于公开互联网来源的研究,包括 Cloudflare 的官方报告。在做出技术决策之前,请查阅上面列出的原始来源。
Muse