Janus - Go binary for local GGUF models via Vulkan
Show HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia
Janus는 단일 Go 바이너리로 GGUF 모델을 로컬에서 실행하고 OpenAI 호환 API와 웹 UI를 제공합니다. Vulkan을 통해 AMD, Intel, NVIDIA GPU를 지원하며, Python이나 Docker 없이도 사용할 수 있습니다. 내장 도구로 파일 읽기/쓰기, 명령 실행, OCR, PDF 생성 등을 지원하고, 모델을 재시작 없이 교체할 수 있습니다. CLI, 스크립트, Cursor, 웹 UI 등 원하는 방식으로 활용하세요. 로컬 AI 추론을 간편하게 시작할 수 있는 강력한 도구입니다.
Janus는 러너이자 라우터입니다. 프론트엔드는 당신이 선택하세요.