Cerebras combina GPUs y sus chips gigantes para multiplicar por cinco los tokens por megavatio

Cerebras Disaggregated Inference

Cerebras combina GPUs y sus chips gigantes para multiplicar por cinco los tokens por megavatio

Cerebras pone en producción la inferencia desagregada: las GPUs AMD Instinct procesan los prompts (prefill) y sus Wafer Scale Engines generan las respuestas (decode). En su nube, esta combinación entrega cinco veces más tokens por megavatio que una configuración solo con CS-3, sin perder velocidad. La compañía planea desplegarla en cientos de megavatios para finales de 2027 y ofrece a sus socios una arquitectura de referencia y un SDK de solo decode.

En el dominio de la inferencia ultrarrápida, los chips centrados en SRAM llevan ventaja porque pueden mantener esos datos en el propio chip y leerlos mucho más rápido.

Más de este día

2026-11-18