Разработчик повторил модель Jev от TypeSafe по одному описанию
Reverse-engineered Jev-like model
vinnylarouge выложил на GitHub стартовую модель jevlike, которая по входу и выходу повторяет коммерческую Jev от TypeSafe. Модель за один проход выбирает вариант из меняющегося списка текстовых опций, возвращая вероятность для каждой. В экспериментах на синтетических меню точность достигла 98%, а на данных Wikispeedia — 26% против 8% у случайного контроля. Один проход оказался примерно в 100 раз быстрее декодера, вынужденного писать 400 токенов.
Мы не показали равное качество с Jev и не воспроизвели закрытый метод обучения TypeSafe.