Unsloth Dynamic 3.0 GGUF量子化、同サイズで精度10%以上向上

Unsloth Dynamic 3.0 GGUFs

Unslothは、Dynamic量子化の次世代版「Dynamic v3.0」を発表。Qwen3.8-27B向けの新しいGGUF量子化モデルは、同じディスク容量で他社製よりトップ1%精度が10%以上向上し、llama.cppやUnsloth Desktopなどの推論エンジンで動作します。高品質なimatrixキャリブレーションデータセットと改良されたレイヤー選択により、モデル品質を維持しつつ、KLダイバージェンスなどの指標で優れた結果を示しています。また、小容量量子化ではMTPモジュールを削除してディスク容量を節約し、UD-IQ1_Sは6.2GBでトップ1%精度の約72%を維持します。