人間こそがループである：AI離れで見えた依存の実態
The Human Is the Loop
著者は数週間AIから離れた後、自身のAI使用の多くが不必要だったと気づく。AIは知的弱体化や好奇心の減退、自信の喪失、うつ傾向さえもたらした可能性がある。エージェントをストレス回避の道具として使い、学習を省いて結果だけを求める癖がつき、生産性の悪循環に陥っていた。今後は意図的にAIを使う場面を選び、人間が主導権を持つことの重要性を訴える。
人間がループに閉じ込められてはならない。人間こそがループであり、私たちは時折、思慮深くエージェントを参加させるのだ。
HNでの議論
89- sonink
私は、ある種のことについてはAIをまったく使わない方が良いという考えに傾いてきている。文章を書くことと戦略的思考が、私にとってはそれに当たる。
文章を書くことの問題は、最近気づいていることだが、AIがあなたのスタイルで散文を作り出す能力を奪うことだ。たとえAIをほんの少しだけ使って文章を磨くだけでも、影響を受け始める。そして時間が経つにつれてそれが積み重なり、時々ほんの少しだけAIのように書くようになる。それは私から独自の散文を作り出す能力を奪っているように思える。
もう一つは戦略的思考だ。例えば、会社として長期的に何に焦点を当てるべきかを決めているとき、LLMが間違った方向を示すのは簡単だ。これは主に、戦略的な方向性には膨大な文脈が必要であり、AIにすべてを入力することはほぼ不可能だからだと思う。見落としやすいが、すべてを左右するかもしれない何かがあるかもしれない。そしてLLMは「要件」が完全であると仮定して、それに基づいて勝手に進んでしまうだろう。これは主に、現在の最先端のLLMがコードに最適化されており、トレーニングセットに長期的な思考を学ぶための十分なデータがないためだと思う。
コーディングは私にとっては問題ないと思う。しかし、そこでもエージェントにメモリを一切使わせないようにしている。私が文脈を作り、それだけから実行する。ここでの最大の解放は、どんな言語でもプログラミングできるようになったことだ。そして、システムについて考え、より堅牢なアーキテクチャを考え出す時間ができる。
- borski
私の友人の多くがこれに共感しているのを見て、興味深いと思う。私は……実はあまり共感しない。
私はいつも同時に開いているopencode/claudeのタブは2〜4つだけだ。そして、それらを一貫したタスクに使っている。そうしないと追跡できないからだ。「メールレビュー」ターミナル、「ドキュメント作成」ターミナル、そして1〜2つの「コーディング」ターミナルがある。
しかし、私は一度に6つものことを同時に始めたりはしない（皮肉なことに、ADHDがあるのに）。AIで効率を最大化する必要性を感じない。また、始めたが終わらせないアイデアやことを嘆いたりもしない。それは私の人生だったからだ。前述のADHDを参照してほしい。だから、いくつかのトークンを費やしたからといって、今さら中途半端なプロジェクトを気にし始める必要があるだろうか？
先日、一日中LLMを使って手作業で退屈な何かを自動化しようとしたが、失敗だった。結局時間を無駄にしただけだった。おそらく、そういった経験（たくさんある）が、その限界を理解する助けになっているのだろう。
それは私をもっと生産的にすべきだとは感じない。実際には生産的になる。なぜなら、自分がやらなくてもいいランダムなタスク（「この関数がどこで発生するか見つけて」とか「行く予定の都市のコインランドリーをすべて見つけて」など）をオフロードできるからだ。しかし、私はそのようなリサーチに使うのであって、「税金を払ってくれ」というようなことには使わない。
だからこそ、私は税金の申告を人に頼んだ。この「すべてをAIに送る」必要性を感じない。そして、それを使って自分で何でもできるからといって、なぜそうする必要があるのだろうか？
2つの注意点がある：
1) 直接作業しているときは、s […]
- appplication
これは好きだし、同じ考えに共感する。仕事に関しては、答えは「もっと少なくする」ことではなく、何らかの形で突破することなのかもしれないと疑問に思う。それがどういうものかはわからないが、LLMが今後も存在し続けるという感覚はある。
あるいは、それらを作業用の箱に閉じ込めておくだけかもしれない。誰かが私にLLMを使ってコードを生成することを望んでお金を払ってくれるなら、それでいい。しかし、趣味や計画、芸術からは遠ざけておく。高貴かもしれないが、そうすると、必要な労力のレベルを自分のライフスタイルに合わせる方法を見つけられなければ、やりそうにないプロジェクトがたくさんある。小さな子供がいると、サイドプロジェクトの時間は信じられないほど限られている。
時々、AIの波から学んでいる主なことは、現代生活がテクノロジーの登場とともによりフラストレーションがたまるようになる方法だと思う。もちろん、そこにはあらゆる良いことがある。しかし、以前に比べて、新しいテクノロジーに不満を感じる人がはるかに多いように感じる。私たちの原始人のドーパミンシステムは、現代の生産性と情報の期待や入手可能性に対処するのに適していないと思う。
- _def
依存性の部分については私も慎重だ。今は、エージェントが私のために書いてくれなければ存在しなかったであろう、役立つツールがたくさんある。しかし、それらのコードベースが最終的にメンテナンスを必要とするようになったとき、それらを修正できるだろうか？おそらくできないだろう。だから、まともなモデルにまだアクセスできるようにしておいた方がいい！
また、特に仕事では、それはスキルや経験を損ない、それらが欠如してしまう。それは、LLMの使用を提供または許可している場所で仕事をしている限り、問題ないだろう。