Почему дешевле купить, чем сделать: экономика моделей принятия решений
To Make, or to Buy: The Economics of Decision Models
Разбираем, как устроены модели принятия решений на примере Jev от typesafe.ai: они выдают вероятностный выбор, оценку или бинарный ответ, а токены на выходе почти бесплатны. Автор предлагает «иерархию решений», где быстрые модели отсеивают простые случаи, а сложные передаются LLM или человеку. Правило Чоу 1970 года помогает решить, когда ответить, а когда воздержаться, сравнивая цену ошибки и стоимость следующего уровня.
В нашей иерархии решений LLM продаёт один продукт — меньше ошибок. Каждый уровень — это поставщик с тремя числами: цена, частота ошибок и стоимость каждой ошибки.