Soup - LLM fine-tuning in one command

Show HN: Fine-tune an 8B model on a 4 GB laptop GPU

Soup ist ein CLI-Tool, das das Fine-Tuning und Post-Training von LLMs auf eine einzige Konfigurationsdatei und einen einzigen Befehl reduziert. Es eliminiert SSH-Sitzungen, automatisiert Batch-Größen, GPU-Erkennung und Quantisierung und unterstützt Training auf lokalen GPUs mit QLoRA. Mit Layer-Streaming können selbst 8B-Modelle auf einer 4-GB-GPU trainiert werden. Soup unterstützt zahlreiche Trainingsmethoden (SFT, DPO, ORPO, SimPO, KTO) und bietet Funktionen wie Reward-Synthese, CI-Gates und Modell-Export. Es ist ideal für Entwickler, die LLMs effizient anpassen möchten, ohne sich mit Infrastruktur herumzuschlagen.