Ollaya bringt Entscheidungsmodelle im Jev-Stil auf die eigene Hardware

Ollaya – Ollama for open-source, Jev-style decision models

Ollaya ist eine Open-Source-Laufzeitumgebung für Entscheidungsmodelle im Jev-Stil, die Antworten in einem einzigen Forward-Pass liefert – ohne Token-für-Token-Generierung. Auf einer RTX 4090 beantwortet Laya fünf typisierte Fragen in rund 9 ms. Die API ist drop-in-kompatibel zum TypeSafe Python SDK 0.7.1, die Gewichte sind offen, und alle Daten bleiben lokal. Verfügbar für macOS, Windows, Linux und Docker.