Cerebras CS-4発表:GPU比30倍高速な推論を実現する新アーキテクチャ

Cerebrasが新製品CS-4を発表。3つのWSE-3 Turboを搭載し、GPUと比較して最大30倍高速な推論を実現します。電力効率も向上し、10兆パラメータを超えるモデルで毎秒1,000トークン以上の生成が可能です。モジュール式のラックスケール設計により、導入時間を日単位から時間単位に短縮し、ハイパースケールデータセンターへの展開を容易にします。
CS-4は、GPUシステムと比較して最大30倍高速な推論を実現し、本番環境で利用可能な最速の推論速度という新記録を打ち立てます。