LLMのプロンプトは「実在しない」——エージェント開発者が語る信頼性の幻想
Prompts Aren't Real
25年のエンジニア経験を持つDanが、LLMエージェントを本番環境で安定稼働させる難しさを語る。プロンプトは重要ではなく、モデルの挙動を測定・最適化する仕組みこそが鍵だと主張。pass^kテストや遺伝的アルゴリズムによるプロンプト最適化の実践例を紹介しつつ、LLMの失敗は予測不能で「手なずけられない獣」のようだと警告する。
プロンプトは重要ではない。少なくとも、多くの人が考えているような意味では重要ではない。
HNでの議論
57- cortesoft
AIの未来がこういうものにならなければいいと願っている。企業がユーザー／顧客に対して、ユーザーのために何かを行えるAIへのインターフェースを提供するような未来だ。むしろ、企業にはAIのためのインターフェースを提供してほしい。ユーザーは自分のAIを持ち込み、それがそのインターフェースに接続するのだ。
言い換えれば、私にあなたのツールを使うAIを提供するのではなく、私のAIにツールを提供してほしい。
そうすれば、私のAIは必要なコンテキストをすべて持ち込めるし、私は自分の設定や、自分が何を望んでいるかについての知識をすべて持ち運べる。私は、やり取りする大量のAIが断片化された世界で、毎回自分の望みや働き方に関する基本的な情報をすべて説明しなければならないような状況は望まない。
これはまた、このエッセイが論じている問題を回避するという利点もある。一貫したツールを提供すれば、AIの奇妙さはもはやあなたの問題ではない。人々がAIにプロンプトを与えるあらゆる奇妙な方法や、壊し方について心配する必要はなくなる。
- mmargenot
これは素晴らしかった！GEPA（または同等の手法やツール）でプロンプトを最適化することを考えるとき、各ツールやスキルを個別に考慮しますか？大規模なエージェントシステムのシステムプロンプトの最適化についてはどう考えていますか？
評価したいものの重複する集合をカバーするために、複数のパスを行うのだと思いますが、システムプロンプトはすべてのケースを相互依存させてしまいます。
私が過去に行ったのは、システムプロンプトを使ってLLMジャッジのための主観的な基準（ブランドボイスに寄与するさまざまなシステムプロンプトの記述など）を抽出し、個々のトレースをそれでチェックして評価するという方法でした。しかし、それをプロンプトに含めること自体をやめたいと思っています。
- stickr
これが素晴らしいのはわかる。顧客のために予測可能で「決定論的」なエージェントを作りたいという気持ちは強い。しかし、これがいかに無駄で、高コストで、楽しくないかと考えずにはいられない。
著者にとって楽しいのは良かったね、と思う。でも私にとっては、あの「猿の梯子とバナナ」実験のようだ。みんながやっているから、そして顧客がバナナを……失礼、お金をくれるからやっている。顧客はそれが役に立つと確信している（もし私がこんなプロンプト最適化のループを始めたら、お金は100%止まるだろう）。
今のようにたくさんのツールやMCPがあると、それぞれで挙動が後退したり激しく変わったりする。ならば、ツールを統合してより多くの自動化を行い、プロンプトに戻るべきなのではないか。（代替案は自分のモデルをトレーニングすること？）
- roughly
これで私たちが遭遇した問題の一つは、テストスイートを実行するのに実際に数えられるお金がかかるということだ。これは私が慣れている他の何とも異なる。だから、統計的に有意な性能評価を生成するのに十分なテストを行うという考えは……正しいのはわかっているが、うちの会社がそのプロセスを生き延びられるかはわからない。
- jdlshore
これは素晴らしい記事だ。ここで述べられている問題は、LLMを使って（ほとんどの場合）信頼できる結果を生み出す本番システムを構築したときに、まさに私たちが発見したことだ。広範なテストが必要であり、ステークホルダーは自分たちの提案が本番でどう失敗するかを全く理解していない。彼らは自分が試した数回がうまくいったことだけを見て、呪われた結果の長い裾野を見ていない。（「そんなに難しいはずがない。なぜただ……」）
記事が提案するような自作プロンプトの段階までは行かなかったが、興味深いアイデアだ。