Laya läuft offline auf dem Mac M4 mit CoreML – 45 Entscheidungen pro Sekunde

Laya (OS Jev) on Mac M4 CoreML Offline (45 decisions per second)

Ein Gist von fordnox zeigt, wie sich Laya mit laya-coreml auf einem Mac M4 vollständig offline über CoreML und die Neural Engine betreiben lässt. Nach dem Klonen des Modells per hf download und uv add 'laya-coreml[demo]' startet das Snake-Demo mit uv run laya-coreml-snake. Laut Autor erreicht das Setup 45 Entscheidungen pro Sekunde – ganz ohne Cloud-Anbindung.