GLM-5.3-Flash обошел Jev по скорости принятия решений без дообучения
Turning GLM-5.3-Flash into a Jev-like decision model
Исследователи из Privatemode показали, как превратить обычную LLM в модель принятия решений, подобную Jev, с помощью одного прямого прохода. Вместо генерации JSON они считывают логиты на позиции choice_index и нормируют вероятности по вариантам. На 28 текстовых датасетах GLM-5.3-Flash показал точность на уровне Jev (медианная разница 0,7 п.п. в пользу Jev, p=0,64), а также позволил принимать решения по изображениям, что Jev недоступно.
Наша ключевая идея в том, что нет необходимости заставлять LLM предсказывать весь JSON-объект, поскольку мы уже знаем его форму.