AMD Ryzen AI Halo: 128 GB RAM im Mini-PC für KI-Entwicklung
AMD Ryzen AI Halo – $4k AI Dev Kit
Der AMD Ryzen AI Halo ist ein kompakter Mini-PC mit dem Ryzen AI Max+ 395 Prozessor, der für KI-Entwicklung mit ROCm optimiert ist. Mit 128 GB einheitlichem LPDDR5x-Speicher und 2 TB SSD bietet er genug Ressourcen für lokale LLMs. LTT Labs testet die Leistung mit llama-bench und vergleicht sie mit Mac Studio und Framework Desktop. Der Fokus liegt auf der 'Batteries included'-Software, die den Einstieg erleichtert.
Die Token-Generierung ist in der Regel stärker von der Speicherbandbreite abhängig: Sie erfordert den Zugriff auf viele Daten aus dem LLM und berechnet jeweils nur ein Token zur Zeit.