Nvidia kauft Groq für 20 Milliarden Dollar, um die Inferenz-Revolution zu gewinnen
The Inference Hardware Revolution of 2026
2026 steht nicht mehr das Training, sondern die Inferenz im Mittelpunkt. Reasoning-Modelle und agentische KI lassen den Bedarf explodieren. Nvidia, Amazon und OpenAI setzen auf ungewöhnliche Allianzen und spezielle Chips von Cerebras, Groq und d-Matrix, um die Speicherbandbreite zu meistern. Nvidia kaufte Groq für 20 Milliarden Dollar, Amazon kombiniert Trainium mit Cerebras. Der Engpass liegt im Speicher, nicht in der Rechenleistung.
Mit dem GPU-basierten Ansatz überprovisioniert man am Ende die Rechenleistung und hungert beim Speicher. Das treibt die große Speicher-Skalierung voran.