Gemma-4思考量减69%，准确率不变
Gemma-4-26B-A4B with 39-69% less thinking at same accuracy
我们发布了ThinkingCap系列的第五个模型，针对Google的gemma-4-26B-A4B进行了优化。在保持回答质量几乎不变的前提下，该模型的平均思考token减少了38.9%，最高降幅达69.1%，准确率仅微降0.15个百分点。同时，模型的循环输出问题从3.6%大幅降至0.8%。这是一个即插即用的替换方案，采用相同的采样设置和vLLM服务栈，旨在以更少的计算资源实现同等的推理效果，显著降低大规模部署的推理成本。
我们的目标是用更少的token得到答案，同时不改变任何其他东西：保留知识、推理能力、回答质量、指令遵循和安全性行为。