Bonsai 27B：手机也能跑 27B 大模型

Bonsai 27B (1-bit LLM): The First 27B-Class Model to Run on a Phone

我们推出了 Bonsai 27B，这是全球首个能在手机上运行的 27B 级大模型。基于 Qwen3.6 27B，它通过 1-bit 和三值量化技术，将模型体积压缩至 3.9GB 到 5.9GB，同时保留了 90% 以上的原始智能。无论是数学推理、代码生成还是多模态任务，Bonsai 27B 都能在 iPhone 17 Pro 或普通笔记本上流畅运行。这意味着，真正的智能代理（Agentic）工作流不再依赖云端，用户数据可以完全本地处理，彻底改变了 AI 部署的经济模型和隐私边界。

"原始能力决定了模型能做什么，而密度决定了它能在哪里运行。"