Apple lässt fast eine Billion Parameter auf vier Mac Studios laufen

Apple ML Research: Muse Spark Open with MLX on Mac Studio

Apple zeigt mit MLX, wie sich das Frontier-Modell Muse Spark Open mit 816 Milliarden Parametern lokal auf Mac Studios ausführen lässt. Vier M5-Ultra-Rechner erzeugen über 36 Tokens pro Sekunde – schneller als ein Mensch liest. Der neue RDMA-Treiber über Thunderbolt 5 und die jaccl-Kollektive verteilen das Modell per Pipeline- oder Tensor-Parallelisierung. Schon ein einzelner Mac Studio mit 512 GB Unified Memory stemmt Mistral Medium 3.5 und Qwen 3.8.