Laya: Open-Source-Entscheidungsmodell schlägt Jev um das 7,8-Fache
Laya the open source version of Jev
Laya ist eine Familie von Open-Source-Entscheidungsmodellen, die in 32,8 ms auf einer einzelnen GPU laufen – 6- bis 8-mal schneller als das proprietäre Jev von TypeSafe AI. Sie unterstützt über 100 Sprachen und liefert kalibrierte Wahrscheinlichkeiten ohne Halluzinationen. Der Autor hatte die nicht-autoregressive Architektur bereits 2025 in zwei arXiv-Papers beschrieben, bevor Jev ohne offene Gewichte oder Trainingsdaten auf den Markt kam. Laya ist unter Apache 2.0 lizenziert und selbst hostbar.
Die Entscheidung, welches Modell verwendet wird, muss vor dem Forward Pass getroffen werden.