OpenJev запускает модель принятия решений прямо в браузере
OpenJev — это локальный эксперимент, позволяющий запустить модель принятия решений Jev прямо в браузере, без бэкенда. Вы выбираете размер модели (например, MiniCPM5 2B на 1.56 ГБ), загружаете её через WebGPU и сравниваете два метода: прямое чтение вероятностей из логитов и генерацию JSON с распределением по токенам. Всё работает на вашем GPU, входные данные не покидают страницу. Точность моделей уступает опубликованному Jev (88.3%), но эксперимент честно измеряет реальное время выполнения.
Прямые оценки — это softmax только по отображаемым токенам опций. Они не являются калиброванной уверенностью и не включают все ответы, которые модель могла бы предпочесть.