Cerebras combina GPUs y sus chips gigantes para multiplicar por cinco los tokens por megavatio
Cerebras Disaggregated Inference

Cerebras pone en producción la inferencia desagregada: las GPUs AMD Instinct procesan los prompts (prefill) y sus Wafer Scale Engines generan las respuestas (decode). En su nube, esta combinación entrega cinco veces más tokens por megavatio que una configuración solo con CS-3, sin perder velocidad. La compañía planea desplegarla en cientos de megavatios para finales de 2027 y ofrece a sus socios una arquitectura de referencia y un SDK de solo decode.
En el dominio de la inferencia ultrarrápida, los chips centrados en SRAM llevan ventaja porque pueden mantener esos datos en el propio chip y leerlos mucho más rápido.