LoRA-Speedrun: Rekord bei 6 Minuten – öffentliche Rangliste für Fine-Tuning
LoRA Speedrun – a public wall-clock leaderboard for fine-tuning techniques
Das Projekt LoRA-Speedrun überträgt die Idee des nanoGPT-Speedruns auf das Fine-Tuning mit LoRA: eine feste Aufgabe (Qwen2.5-1.5B auf GSM8K), feste Hardware (eine L40S) und eine öffentliche Rangliste nach Wanduhrzeit. Jeder Rekord wird dreimal mit frischen Seeds verifiziert. Der aktuelle Rekord liegt bei 6 Minuten 5 Sekunden – erreicht durch Sequence Packing und Completion-only Loss Masking. Teilnahme und Verifikation sind dank Modal-Gutschriften kostenlos.
Die Wanduhrzeit ist das, wofür man bezahlt, und sie zwingt Kernel, Datenladen und Algorithmen, in derselben Währung zu konkurrieren.