Ollaya:本地运行Jev风格决策模型
Ollaya – Ollama for open-source, Jev-style decision models

Ollaya 让决策模型在本地硬件上以毫秒级速度运行,完全开源且数据隐私由你掌控。它兼容 TypeSafe API,支持 Laya 等开放模型,无需逐 token 生成,单次前向传播即可返回校准答案。无论是 macOS、Windows 还是 Linux,甚至 Docker 环境,都能快速部署。在 NVIDIA GPU 上,五问请求仅需约 10 毫秒,远快于云端 API。你的敏感数据如工单、邮件无需外传,直接在本地处理,既安全又高效。
在本地 GPU 上,一个五问请求通过 Laya 处理仅需约 10 毫秒,端到端通过 HTTP API 完成。