TypeSafe AI выпускает Jev: в 40–400 раз дешевле и в 20–200 раз быстрее фронтирных LLM
Jev: New frontier model 40-400x cheaper and 20-200x faster
TypeSafe AI представила System One Models — новый класс моделей для автоматизации, которые принимают структурированные решения вместо генерации текста. Первая модель Jev использует параллельный сэмплинг и обучение RLCD, обеспечивая скорость 70–500 мс и стоимость $0.042 за миллион входных токенов при бесплатных выходных. Jev не может галлюцинировать и выдаёт калиброванные вероятности, что делает его пригодным для встраивания в код, real-time приложений и обработки больших данных.
Jev достигает схожего уровня интеллекта на задачах System One по сравнению с существующими LLM, будучи на два порядка быстрее и эффективнее.