Cerebras CS-4: 30-mal schnellere Inferenz als GPUs
Cerebras stellt den CS-4 vor, ein Rack-Scale-System mit drei WSE-3-Turbo-Wafern, das bis zu 30-mal schnellere Inferenz als GPU-Systeme bietet. Dank reduzierter Latenz und höherer Bandbreite erreicht es über 1.000 Tokens pro Sekunde bei Modellen mit mehr als 10 Billionen Parametern. Das modulare Design vereinfacht Bereitstellung und Wartung in Hyperscale-Rechenzentren.
Die CS-4-Lösung verschiebt die Pareto-Grenze der Inferenz und liefert bis zu 10-mal mehr Durchsatz pro Watt als der CS-3, während Tokens bis zu 30-mal schneller erzeugt werden als bei GPU-Systemen in der Produktion.