Kimi K3 auf AMD MI355X: Mehr Leistung pro Dollar als B300

Running Kimi K3 on MI355X at Better Performance per Dollar Than B300

Wafer zeigt, wie das 2,8-Billionen-Parameter-Modell Kimi K3 auf einem einzelnen AMD-MI355X-Knoten mit 952 Tokens pro Sekunde pro Knoten läuft – mehr als das Doppelte des B200-Setups und mit besserem Preis-Leistungs-Verhältnis als Nvidias B300. Die Ergebnisse unterstreichen AMDs wachsende Konkurrenzfähigkeit im KI-Inferenzbereich, trotz anfänglicher Software-Herausforderungen, die mit einfachen Fixes gelöst wurden.