BottlecapAI научила Gemma-4-26B-A4B думать на 39% меньше без потери точности

Gemma-4-26B-A4B with 39-69% less thinking at same accuracy

Пятая модель серии ThinkingCap от BottlecapAI сокращает число токенов рассуждения у Google gemma-4-26B-A4B-it в среднем на 38,9%, а местами до 69,1%, при падении точности всего на 0,15 п.п. по двенадцати бенчмаркам. Зацикливание снижается с 3,64% до 0,76% ответов. Модель работает с теми же настройками сэмплинга и на том же стеке vLLM — это готовая замена без переобучения инфраструктуры.