LLM-инструменты ломаются по трём причинам: ценность, условия, намерение

LLM Tool Failures: Only 3 Root Causes – Value, Condition, Intent

В статье разбирается, почему LLM-инструменты дают сбои, и предлагается подход «preflight»: вместо того чтобы модель решала, что спросить, внешний список определяет, какие значения, условия и намерения должны быть заполнены до выполнения. Автор утверждает, что корень проблемы — не в точности модели, а в том, что она не осознаёт пробелы в знаниях. Решение — разделить слоты на фиксированные, провайдерские и пользовательские, искать значения по заданному порядку источников, а неизвестное помечать как «no result». Это превращает проверку из «верно ли?» в «продолжаем ли?» и устраняет необходимость в изобретении данных.