単一のLLM呼び出しを本番稼働可能なシステムへ——エージェント型ハーネス構築の実践

Building an Advanced Agentic Harness

基本のハーネスは正しいが未熟だ。本稿では、単一のLLM呼び出しを、計画・実行・回復・検証が可能な信頼性の高いシステムに変える方法を解説する。型付きツール、計画DAG、階層型メモリ、検証階層、予算、トレーサーといった小さなプリミティブを、意図的に薄いオーケストレーターで組み合わせる。各プリミティブは、LLMが不正な引数を生成する、逐次実行が遅い、コンテキストが無関係な情報で溢れる、悪い出力が黙って伝播する、といった具体的な失敗に対処する。例として、都市比較エージェントを構築し、並列実行、コスト管理、検証の仕組みを実演する。