Cloudflare, GLM-5.3 버그로 155개 응답에 다른 사용자 데이터 노출

Cross-request KV cache exposure in the GLM-5.3 Workers AI model (155 responses)

Cloudflare, GLM-5.3 버그로 155개 응답에 다른 사용자 데이터 노출

Cloudflare가 Workers AI의 GLM-5.3 모델에서 발생한 KV 캐시 노출 사고를 공개했다. 8월 27일부터 9월 9일까지 155개의 응답이 다른 고객의 요청 데이터를 포함했으며, 모두 681,280 토큰을 초과하는 프롬프트에서 발생했다. 원인은 SGLang 추론 엔진의 설정 오류와 초과 요청 처리 버그가 겹친 탓이다. Cloudflare는 모델을 비활성화한 뒤 설정과 엔진을 패치해 복구했고, SGLang 업스트림에도 수정을 반영했다.

디코드 노드는 '전송 완료' 메시지를 받고 프리필이 이전 요청의 KV 캐시를 이번 요청의 전체 프롬프트로 덮어썼다고 가정했지만, 실제로는 이전 상태의 대부분이 그대로 남아 있었다.

이 날의 다른 글

2026-10-26