Strot - LLMの意図を一度コンパイルし、ローカルで永続実行する決定コンパイラ
Show HN: Strot – Compile an LLM's intent once, run decisions locally forever
Strotは、LLMの意図を一度だけコンパイルし、その後はローカルハードウェア上で決定を永続的に実行するオープンソースの決定コンパイラです。サポートチケットの分類やスコアリング、ルーティングなどを、型安全なJSONとして確率と信頼度付きで出力。LLMはコンパイル時にのみ使用され、本番環境では凍結されたPythonアーティファクトがCPU上で約60ms、限界コストゼロで動作します。低信頼度のレコードは推測せず棄権するため、構造的なハルシネーションは0%。pip install strot-aiで導入でき、既存のワークフローに簡単に組み込めます。
意図を一度LLMでコンパイルすれば、あとは永遠にローカルで決定できる——分類もスコアリングもルーティングも、型安全なJSONで、確率と信頼度付き、自分のハードウェア上で、限界コストゼロで。