Modal skaliert auf 1 Million Sandboxen in unter einer Minute

Scaling to 1M concurrent sandboxes in seconds

Modal hat seine Sandbox-Plattform von Grund auf neu aufgebaut, um Millionen gleichzeitiger Sandboxen und Zehntausende von Sandbox-Erstellungen pro Sekunde zu unterstützen. Das neue System verzichtet auf zentrale Koordination und setzt auf horizontale Skalierung: Scheduler treffen Entscheidungen anhand von In-Memory-Daten und kommunizieren direkt mit Workern. Dadurch entfallen Engpässe wie zentrale Datenbanken oder serialisierte Scheduler. In einem Test erstellte Modal eine Million Sandboxen in weniger als einer Minute. Der Beitrag erklärt die Architektur, die Probleme bestehender Lösungen wie Kubernetes und die technischen Herausforderungen des Umbaus.