Unsloth Dynamic 3.0:量化模型精度再提升
Unsloth Dynamic 3.0 GGUFs

Unsloth 发布了 Dynamic v3.0 量化版本,在保持模型体积不变的前提下,将 Qwen3.8-27B 的 top-1% 准确率提升了超过 10%。此次更新引入了更高质量的 imatrix 校准数据集,覆盖 agentic coding、聊天及多语言场景,并优化了层选择策略。团队强调全程采用训练后量化(PTQ),拒绝 QAT 或 QAD,有效避免了过拟合问题。新的 Divergence-300 @32 和 KL Divergence 指标进一步验证了模型在推理轨迹上与 BF16 原版的高度一致性。无论是 llama.cpp 还是 Unsloth Desktop,用户都能体验到更精准、更高效的本地推理。
我们的 Dynamic v3.0 量化版本在相同体积下,比所有其他提供者高出 10% 以上的 top-1% 准确率。