Cerebras verteilt ein 3-Billionen-Parameter-Modell auf 59 Wafer

Cerebras Deploys Trillion-Parameter AI Models

Cerebras zeigt, wie das Open-Source-Modell Kimi K3 mit rund 3 Billionen Parametern auf 59 WSE-3T-Wafer aufgeteilt wird. Jede Schicht passt dank 44 GB On-Chip-SRAM komplett auf einen Chip, sodass nur Aktivierungen zwischen den Wafern wandern – über RDMA mit etwa 2 Mikrosekunden pro Sprung. Die Wafer arbeiten als Pipeline mit fein granulierten Stufen und Micro-Batches, sodass viele Anfragen gleichzeitig durchlaufen und 1000–2000+ Token pro Sekunde erreicht werden.