STROT - Компилятор решений на базе LLM с локальным выполнением
Show HN: Strot – Compile an LLM's intent once, run decisions locally forever
STROT — это open-source компилятор решений, который использует LLM один раз на этапе компиляции, а затем выполняет классификацию, оценку и маршрутизацию записей локально с нулевой предельной стоимостью. Вы описываете намерение и схему, LLM генерирует код, а на выходе получается замороженный Python-артефакт с локальной моделью принятия решений (144M параметров, CPU, ~60 мс на запись). Продукт обеспечивает детерминированные JSON-решения с вероятностями и уверенностью, 0% структурных галлюцинаций и калиброванные гарантии ошибки. Установите через pip install strot-ai и попробуйте на своих данных.
Скомпилируйте намерение один раз с помощью LLM, а затем принимайте решения по каждой записи навсегда — с нулевой предельной стоимостью и на своём оборудовании.