Goku - WASM-powered LLM inference and model manager
Show HN: Goku – WASM (wllama)-powered LLM inference and model manager
Goku는 WebAssembly(wllama) 기반으로 브라우저에서 직접 LLM 추론을 실행하는 혁신적인 도구입니다. 별도의 서버나 GPU 없이도 모델을 로컬에서 관리하고 실행할 수 있어, 데이터 프라이버시를 유지하면서도 강력한 AI 기능을 활용할 수 있습니다. 사용자는 다양한 모델을 손쉽게 다운로드하고 전환하며, 클릭 한 번으로 추론을 시작할 수 있습니다. Goku는 웹 기술만으로 고성능 AI를 경험하고자 하는 개발자와 연구자에게 새로운 가능성을 제시합니다.
Goku는 브라우저 안에서 LLM을 직접 실행함으로써, 서버 의존성 없이도 누구나 강력한 AI의 힘을 경험할 수 있게 해줍니다.