Modal 如何在秒内启动百万沙盒
Scaling to 1M concurrent sandboxes in seconds

在 Modal,我们深知 Agents 正在重塑软件格局,但现有的容器平台根本无法应对这种爆发式增长。面对 Reinforcement Learning 和背景代理对海量并发沙盒的极致需求,我们决定推倒重来,彻底重构核心沙盒平台。新架构彻底摒弃了传统的中心化协调机制,不再依赖 Postgres 或 etcd 等强一致性存储作为单点瓶颈。通过让每个 Worker 节点成为独立的数据源,并利用 Redis 流进行异步状态同步,我们将沙盒创建路径简化为仅需两次网络跳转。如今,我们的系统已能轻松支撑百万级沙盒并发,并在短短一分钟内完成全部创建,真正实现了无上限的弹性扩展。
"我们彻底摒弃了任何形式的中心化协调,在沙盒运行和创建的关键路径上,用可扩展性和性能换取了全局一致性。"