Soup - LLM fine-tuning simplified into one command

Show HN: Fine-tune an 8B model on a 4 GB laptop GPU

Soup은 LLM 미세 조정의 복잡성을 단순화하는 도구로, 하나의 설정 파일과 하나의 명령으로 전체 워크플로우를 처리합니다. SSH 없이 로컬 GPU에서 QLoRA를 통해 8B 모델을 4GB VRAM으로 학습할 수 있으며, 배치 크기, GPU 감지, 양자화 등을 자동으로 처리합니다. DPO, ORPO, SimPO, KTO 등 다양한 학습 방법을 지원하며, 레이어 스트리밍을 통해 메모리 사용을 최적화합니다. 설치 후 `soup init`으로 설정을 생성하고 `soup train`으로 학습을 시작할 수 있습니다.