LoRA 速通排行榜：6 分钟微调 Qwen2.5
LoRA Speedrun – a public wall-clock leaderboard for fine-tuning techniques
LoRA 微调技术百花齐放，却缺乏公平的竞技场。这个名为 lora-speedrun 的项目建立了一个公开的墙钟时间排行榜，锁定 Qwen2.5-1.5B 模型和 GSM8K 任务，在 Modal L40S 硬件上比拼训练速度。当前记录仅需 6 分 05 秒即可达到 57% 的准确率。项目利用 modded-nanogpt 框架，强制要求所有记录经过三次独立复现验证，确保数据真实可靠。无论是 Sequence packing 还是 LoRA+ 等新技术，开发者都能在此一决高下，推动参数高效微调技术的透明化与科学化。
"LoRA 和 QLoRA 是现实世界微调的主流方式，技术空间已呈爆炸式增长，但缺乏一个对抗性的公平竞技场让这些想法在公开环境中相互竞速。"
HN 评论区
- 有评论者指出，盲目依赖模型规模扩大（scaling laws）是计算机科学家的胜利而非MBA的短视，因为只要对智能的需求超过经济成本，更大的模型几乎总是表现更好。
- 一位从业者强调，当前关于LoRA加速的争论缺乏统一标准，不同方法使用的模型、数据和硬件差异巨大，必须建立类似nanoGPT的固定任务排行榜和人工审核机制才能验证真实效果。
- 有观点认为，限制资源（如模型大小）反而能激发类似城市规划中的创新，迫使开发者在有限空间内构建更智能的解决方案，而非单纯依赖堆砌算力和数据。
- 评论区多次提到LoRA（Low-Rank Adaptation）与物联网通信技术LoRa（Long Range）的命名冲突，导致部分读者误以为该帖子涉及物理无线电设备或时钟硬件。
- 有评论者反驳了‘小模型必输’的绝对论调，引用Chinchilla研究指出，通过更长的训练时间和高质量数据，较小模型也能匹配甚至超越大模型的性能。