LLM Router の廃止：なぜ単一モデルが最善なのか

Everyone is building LLM routers, we deprecated ours

Manifest では LLM Router を廃止しました。7000 人のユーザーを対象とした運用経験から、プロンプトだけで複雑さを判断するのは困難だと分かりました。コスト削減にはキャッシュの方が効果的であり、モデルを切り替えると一貫性が損なわれ、予測不能なコストが発生します。多くのケースでは、信頼できる単一モデルに専念するのが最善策です。