STROT - Compila la intención de un LLM una vez y ejecuta decisiones localmente para siempre

Show HN: Strot – Compile an LLM's intent once, run decisions locally forever

STROT es un compilador de decisiones open source que transforma la intención de un LLM en un artefacto Python congelado y autónomo. Compilas una vez con un LLM (por ejemplo, Claude) y luego ejecutas clasificación, scoring y routing sobre cada registro en tu propio hardware, sin llamadas al LLM, con coste marginal cero y en ~60 ms. Genera JSON tipado con probabilidades y confianza, y los registros de baja confianza se abstienen en lugar de adivinar. Ideal para triaje de tickets, moderación o enrutamiento de datos a escala. Instalación vía pip install strot-ai; benchmarks reproducibles incluidos.

Compila tu intención una vez con un LLM y luego decide sobre cada registro para siempre, con cero coste marginal y en tu propio hardware.

Más de este día

2026-10-19