AIに聞いてから話しかけるな、LLMへの忖度は無能の証明だ

ここは少し反論させてほしい。人々は（時には私も）楽をして、エージェントが質問に答えた内容をそのまま伝えることがあるけど、それはやるべきではない。その時点では、Googleで検索してあげるリンクと大差ない。しかし、エージェントを使って見つけたことを伝える場合でも、通常はプロンプトを書いて、情報を調べてもらうように頼んで、エージェントを関連情報に絞り込むという作業を自分でやっている。私がそうしているのは、その分野における私の特定の専門知識のおかげである可能性が高く、それは自分でエージェントに聞いて見つけられるものではない。

Slackで「@here」を使わないように人々を教育するのに10年かかったかもしれないし、メールの平均応答時間は10分ではない。テクノロジーが出てきて、何年も多くの人が手探りで進み、やがてエチケットが形成される。よくあることだ。

Google検索の最初のリンクを、自分では読んでおらず内容も知らないまま送りつけてくる人に最後に会ったのはいつだったか覚えていない。それなのに、Claudeを使った1対1や公開の場で、それがいつも起きているのを目にする。

そうした議論では、人々は「ほら、Claudeで調べてあげる」という抗議の意味で使っているのではなく、本当に「この話題をClaudeにコピペしたら、Claudeがこう言った。私は肉のプロキシとして君に伝えているだけで、これに1マイクロ秒も時間を費やしていない」という意味なんだ。明らかに、彼らが投資していない努力を君が投資することを期待している。

私の戦略と希望は、10年待つことだ。おそらく良くなるだろう。

私はどちらかといえばLLMに反対で、主に人間的な観点からだ。LLMは、その仕事に注ぎ込まれた実際の思考や経験を一切考慮せず、私たちを単なるアウトプットに還元してしまう。それは文字通り彼らのトレーニングデータには含まれていない。

この方向に進むと決めた世界に生きているのは残念だ。

実験として、100%バイブエンジニアリングで仕事のプロジェクトを始めてみた。動いているようには見えるが、途中で非常に多くの間違いを犯しているので、本番環境に対応できる状態まで持っていけるかどうかはまだ不明だ。

最近美術館で大理石の彫像を見ていた。そして思った：この芸術家は、誰かが彫像全体を鑑賞するのに費やした時間よりも、足の親指を彫るのに多くの時間を費やしたのではないかと。

そのスピードこそ、かつてソフトウェアエンジニアリングにあったものだ。非常に丁寧な職人技、一行たりとも投げやりに書かれたものはない。そして今、私たちは明確な終わりのない方向へと進んでいて、より大きくより良いモデルが私たちを前進させてくれるとただ祈っているだけだ。

他の動物と私たちを分かつもの（知性）をこれほど熱心に取り除こうとするなら、人間であることの意味は何なのだろう？

私が本当に腹立たしく思うのは、コードを出荷しようとするときに常に顔面に飛んでくるような、とてつもなく苦痛な障害が存在し、誰もが同情的に見えるのに、疑わしいコンプライアンス上の理由や、障壁を下げるとコードの品質管理が脅かされるからという理由で変えられないことだ。それはそれでいい。

そしてもちろん、そうしたスピードバンプはすべて記録的な速さで撤去される。ただしAIエージェントのためだけに、人間のためではなく。どんな未解決の注意点が残っていようと、コンプライアンス基準を満たすかどうかほとんど考慮されずに。

障害は解決された。AIエージェントに頼んで回避してもらえばいい！