Janus: 本地运行GGUF模型的Go二进制工具

Show HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia

Janus是一个由Go编写的单二进制文件，支持在本地通过Vulkan或CPU运行GGUF格式的LLM模型，并提供OpenAI兼容API和内置Web界面。无需Python、Docker或Ollama，即可轻松部署本地AI服务。用户可通过命令行、Cursor等客户端或Web UI灵活调用模型，支持热切换模型、内置工具调用（如文件读写、OCR、PDF处理）及可选身份验证。无论是开发测试还是日常使用，Janus都能让本地大模型运行更简单、高效。