Modal, 100만 개 샌드박스를 1분 안에 동시 실행

Scaling to 1M concurrent sandboxes in seconds

Modal이 샌드박스 플랫폼을 처음부터 다시 설계해 100만 개의 동시 샌드박스를 1분 안에 생성하는 데 성공했습니다. 기존 Kubernetes 기반 시스템은 중앙 집중식 스케줄링과 etcd 같은 강한 일관성 저장소로 인해 확장에 한계가 있었습니다. Modal의 새 아키텍처는 중앙 조정 없이 스케줄러가 로드 밸런싱 방식으로 직접 워커에 샌드박스를 생성하며, Redis 스트림으로 상태를 비동기적으로 전달합니다. 이를 통해 초당 수만 개의 샌드박스를 생성할 수 있고, 확장에 실질적 제한이 없습니다.