LLMの非決定性は問題ではない

Non-Determinism Doesn't Matter

LLMによるソフトウェア開発の非決定性を長年問題視してきた筆者が、考え方を一変させる。結果は正確でも、そこに至る手段は一つである必要はない。LLMはコードではなくシステム内の「アクター」であり、確率空間を狭めるためにコンテキストエンジニアリングやMCP、スキル、ハーネス、グラフ、メモリを活用する。さらに非決定的な出力を決定的なツールに変換し、エージェントに呼び出させることで、正確でテスト済みの操作を少ないトークンで実現できると説く。