Modal、100万サンドボックスを1分未満で同時実行する新基盤を構築

Scaling to 1M concurrent sandboxes in seconds

Modalは、エージェントや強化学習の需要に応えるため、サンドボックス基盤をゼロから再設計しました。従来のKubernetesや旧アーキテクチャの中央集権的なスケジューリングやデータストアがボトルネックとなる問題を解決し、スケジューリングサーバー群と各ワーカーの自己申告方式により、中央調整を排除。作成パスはネットワーク2ホップと軽量なCPU処理のみとなり、100万サンドボックスを1分未満で作成可能に。スケーラビリティと信頼性を両立した新設計の詳細を解説します。