Bonsai 27B: Das erste 27B-Modell, das auf einem Smartphone läuft
Bonsai 27B (1-bit LLM): The First 27B-Class Model to Run on a Phone
PrismML stellt Bonsai 27B vor, ein multimodales Modell auf Basis von Qwen3.6 27B, das erstmals in seiner Leistungsklasse auf einem Smartphone läuft. Die 1-Bit-Variante benötigt nur 3,9 GB und erreicht damit 90% der Leistung des vollpräzisen Modells, während die ternäre Variante mit 5,9 GB 95% erreicht. Beide unterstützen 262K-Token-Kontext, Tool-Nutzung und Agenten-Workflows. Das Modell ist unter Apache 2.0 verfügbar.
Jede Linksverschiebung der Grenze erweitert die Menge an Geräten, Produkten und Umgebungen, in denen fortschrittliche KI operieren kann, und verändert die Ökonomie jeder Einsatzfläche, die sie berührt – von Telefonen bis zum Single-GPU-Serving.