AIが職場の信頼を壊す——「理解せずに送る」時代のエンジニアリング
AI Is Breaking This Thing We Call Trust
AIによって、コードやドキュメントを理解せずに生成することが容易になった。著者は、レビューの前提が「相手は理解している」から「相手は理解しているか？」に変わり、信頼が損なわれていると指摘。AIが書いたものをそのまま送るのではなく、自分で理解し、確認し、名前を背負う責任を求める。エンジニアとリーダー向けの実践的な提案も示す。
AIは、著者が何も理解していなくても、コード、説明、レビュー質問への回答、そして文書全体を簡単に生成できるようにする。すべてが完成しているように見える。実際、著者が確認していなくても、正しいことさえよくある（！）。
HNでの議論
30- plaidfuji
> 要はこうだ。職場での私たちの習慣のほとんどは、何かを作り出すということはそれを理解していなければならないという前提にまだ立っている。
これは常に相対的な意味でしか当てはまらなかった。つい最近まで、自分が書いたソフトウェアレベルのコードは理解していることが期待されていた。しかし、マシンコードやコンピュータの内部構造を深いレベルで理解することは期待されていなかった。それらの層は動くものだと信頼している。かつてのある時点では、ただ信頼するだけでは済まなかった。近い将来のある時点では、ソフトウェアコードが動くことをただ信頼するだけになるだろう。その代わりに、あなたは仕様（プロンプト）について議論するだけになる。あなたの思考はシステム階層の一段上へと移ることができる。誰の思考もそうなる。私たちは以前にもそれをやってきたし、またやるだろうし、これが最後の出来事にすらならない。不安を手放して、そうなるに任せよう。
- Havoc
私は次の世代を心配している。
あなたと私には基準がある。まだ統一された受け入れられた真理（たとえ疑わしくても）が存在する間に、発達段階のほとんどを過ごした脳だ。
未来の世代は、より分断された現実の中で発達しなければならないだろう。何も掴むものがない世界。疑わしい共通認識の物語すらもない世界だ。
- sigalor
人々がいつ、知性とは外部に向けられるだけでなく、内部（喜び、快楽、トラウマ、タブー、気まずさ、虐待、信頼など）を見つめるときに初めて本当に始まるものだと気づくのだろうか。"interoception"という言葉を調べてみてほしい。
- philbo
一つのアプローチは、意図的により能力の低いツール（ただしAI支援付き）を選ぶことだと思う。巨大なタスクをエージェントに丸ごと委任する必要はないが、そうするには主流のハーネスと戦う必要がある。なぜならそれらはより多くのトークンを売るために存在しているからだ。モデルプロバイダーは、より自律性の低いフローを提供するインセンティブを持っていない。
私はこのフラストレーションについて数ヶ月前に書いた[1]が、その後、モデルプロバイダーがやらないなら自分で直してみるべきかもしれないと気づいた。というわけで、恥知らずな宣伝を鳴らしますが、ペアプログラミングのように、コードレビューのようでない動きをしようとするオープンソースのハーネスを書いた[2]。
いつものように、私の「Show HN」投稿[3]は石のように沈んだので、ほとんどのエンジニアはこの方向にあまり興味がないのだろうと思う。しかし可能ではある。私たちはラボが投げつけてくるツールをただ受け入れる必要はない。
[1]: https://philbooth.me/blog/agentic-coding-and-mental-models
- lovich
エリートが信頼を壊した。
サム・アルトマンを強迫的な嘘つきにしたのは誰でもない。マスクに、あるサービスを完全自動運転と呼び、事故が起きそうだと判断した瞬間に責任をユーザーに戻させるようにしたのは誰でもない。
最高レベルの意思決定をする人々から主体性を奪い、すべての報酬を享受するのはやめろ。
5杯連続で飲んで車で帰宅した人が、物理的に損害を与えたのは車だからといって事故の責任がないと言うのか？