Soup - Fine-tune LLMs in one command on a 4 GB GPU
Show HN: Fine-tune an 8B model on a 4 GB laptop GPU

Soup simplifica el ajuste fino de modelos de lenguaje grandes (LLMs) hasta convertirlo en un flujo de trabajo sencillo: un solo comando y un archivo de configuración YAML. Gracias a técnicas como QLoRA y el streaming por capas, permite entrenar modelos de 8B en GPUs con solo 4 GB de VRAM, sin necesidad de SSH ni configuraciones complejas. Incluye soporte para múltiples métodos de entrenamiento (SFT, DPO, ORPO, etc.), exportación a formatos como GGUF y una interfaz de línea de comandos intuitiva. Ideal para desarrolladores que quieren personalizar modelos sin infraestructura costosa.
Soup convierte el dolor del ajuste fino de LLMs en un flujo de trabajo simple: una configuración, un comando, listo.