Cerebras CS-4 promete inferência 30x mais rápida que GPUs
A Cerebras anunciou o CS-4, uma solução rack-scale que promete inferência até 30 vezes mais rápida que sistemas com GPUs. O sistema integra três WSE-3 Turbo por rack, com nova arquitetura modular que separa computação, energia e I/O. Com latência entre wafers de apenas 2 microssegundos, o CS-4 suporta modelos com mais de 10 trilhões de parâmetros, gerando mais de 1.000 tokens por segundo. As primeiras entregas começam neste trimestre.
O CS-4 oferece até 30x mais rapidez na inferência em comparação com sistemas de GPU, estabelecendo um novo recorde para a inferência mais rápida disponível em produção.