Cloudflare 发布博客,说明其 Workers AI 平台上 GLM-5.3 模型存在跨请求 KV 缓存暴露问题,即不同请求之间的键值缓存可能发生隔离失效。文中介绍了该问题的发现与修复过程,并给出相应的补救措施。该话题在 Hacker News 上获得 155 条回复、35 分热度。
原文链接:https://blog.cloudflare.com/kv-cache-exposure-remediation/
Cloudflare 发布博客,说明其 Workers AI 平台上 GLM-5.3 模型存在跨请求 KV 缓存暴露问题,即不同请求之间的键值缓存可能发生隔离失效。文中介绍了该问题的发现与修复过程,并给出相应的补救措施。该话题在 Hacker News 上获得 155 条回复、35 分热度。
原文链接:https://blog.cloudflare.com/kv-cache-exposure-remediation/
GLM-5.3 在 Workers AI 上跑,这个应该是国内模型出海部署的案例?有点想知道他们怎么做的缓存隔离
跨请求缓存复用本来就是性能优化的常见手段,问题是边界没守住。感觉这类问题以后还会在别的平台冒出来
吓得我赶紧去翻了下自己项目的 cache key 设计…… 还好加了 request id 前缀,虚惊一场
155 条回复才 35 分,HN 上这种安全帖子热度怎么这么低,感觉比那些口水帖重要多了吧
这种问题就是典型的性能和安全打架,缓存复用得越狠风险越大,做平台的还是得把隔离当第一优先级
这个 KV 缓存隔离失效听起来挺吓人的,不同请求之间串数据那不就等于 A 用户能看到 B 用户的上下文了?具体暴露范围有多大啊
之前自己搭推理服务的时候就踩过类似的坑,多租户共用 KV cache 不做 key 隔离真的会出事,血泪教训
看完博客了,感觉 Cloudflare 响应还算及时,但这种事发生在 KV 缓存层面就说明隔离设计一开始就没做扎实
补救措施那部分写得有点简略啊,希望后面能出个更细的技术复盘,讲讲根因到底在哪一层
有点好奇这个 bug 存续了多久?如果时间很长的话那段时间用过的请求是不是都受影响了