Goku - Gestor de modelos y ejecución de LLM impulsado por WASM (wllama)
Show HN: Goku – WASM (wllama)-powered LLM inference and model manager
Goku es una herramienta que permite ejecutar inferencias de modelos de lenguaje grandes (LLM) directamente en el navegador, gracias a la tecnología WebAssembly (WASM) mediante wllama. Ofrece un gestor de modelos integrado que facilita la descarga, el almacenamiento y la selección de distintos LLM, todo desde una interfaz web sencilla. Su principal ventaja es que no requiere servidores ni instalaciones complejas: los usuarios pueden probar modelos como Llama o Mistral de forma privada y rápida, sin enviar datos a terceros. Goku es ideal para desarrolladores, investigadores y entusiastas de la IA que buscan experimentar con LLMs de manera accesible y eficiente, directamente desde su navegador.
La posibilidad de ejecutar modelos de lenguaje completos en el navegador, sin servidores ni instalaciones, abre un nuevo mundo de aplicaciones de IA privadas y accesibles para todos.