AIが「超知能」に至る道は、人間が自分で脳を切り落とすことだ

これはよく考えられた投稿には思えない。まあ、AI賛成か反対か（この場合は後者）というだけで、だいたい想像はついたけど、それにしても特に出来の悪い投稿だ。ここで他の人たちが水の無駄遣いというミスリードを指摘しているが、他にもいくつかナンセンスな点がある——一般的な環境破壊の悲観論や、再帰的自己改善を「神秘的」とレッテルを貼るなど。

私は何年も取り組んでいるCのコードベースにClaude Opus 5を向けたら、すぐに5つの深刻なバグを見つけて修正方法を教えてくれたし、他にも私が知らなかったLinuxシステムコールを使って他の問題を解決する方法も教えてくれた。また、数年前に書いたPEG用の新しい言語を渡したら、その日の午後にはOCamlで動作する実装を書いてくれて、その過程で私のサンプル文法のバグもいくつか修正し、行き詰まっていた概念的な問題も解決してくれた。Fable 5.1に最小限の証明支援系を実装するよう頼んだら、PythonでJ-Bobのクローンを書いてくれて、今それを勉強している。こういうものにはある種の放水のような質があるけれど、私はAIを使って自分の脳を積極的に退化させるつもりは全くない。

もちろん、AIが全体として有益なイノベーションになる保証はない！ほとんどのイノベーションと同様、それは人々がイノベーションを使って自分の人生をコントロールできるようになることと、他人の人生をコントロールするために使えるようになることのバランス次第だろう。（ただし[…]

今日のTimnit Gebruによる素晴らしい怒りの投稿を楽しんだ。タイトルは「AI企業は実際の害について議論を避けるために絶滅の恐怖をあおっている」といったものだ。

https://www.youtube.com/watch?v=aCB-NQtsKrs

ずっと前から、社会はおよそ10年ごとに集団的に正気を失うという持論がある。たいていはもっともな理由から始まるが、結果は大規模な愚かさであり、その後大規模な忘却が訪れて新たなサイクルが始まる。対テロ戦争、世界金融危機、暗号通貨、コロナ、そして今はAI。ただ、サイクルは短くなっているようにも思える。

それに、私たちは歴史から、あるいは10歳年上の人たちからさえ学ぶにはあまりにも愚かすぎて、同じサイクルを繰り返す。

そして、そこが「毎分新しいカモが生まれる」という言葉の由来なのだろう。

> 人的資源は依然としてゼロサムゲームであり、エージェントのサイロの中で超忙しく何千ものことを同時にこなしていると感じる個人が、結局のところ、部門横断的な協力やチームワークを必要とする種類のプロジェクトの解決に役立つわけではない。

これは本当だと思う。

ソフトウェアエンジニアが、AIに非常に満足してより深く傾倒する人々と、ますます懐疑的または落胆している人々とに分かれていくのは興味深い。

これがどう展開するかはわからないが、こんなことは今まで見たことがない。

最初はAIが嫌いだったが、徐々に好きになっていった。コードを書くのに役立つ。そして毎日、時には文字通り毎日良くなっている。

今日では、それは道具だと思う。大工の釘打ち機のようなものだ。私たちがより速く、潜在的に仕事をより良くするのに役立つ。そういえば最近Waymoに乗る機会があって、無事に目的地まで運んでくれた。だから正しいこともある。

しかし本当の答えはそれほど単純ではない。友人が最近私に質問した：「うちの子がソフトウェア開発をやりたいと言っているが、やらせるべきか？」うーん、たぶん別のことを考えた方がいいかも？

コードを書くことに関しては、常に2つの陣営があったと思う。強い二峰性の分布だ。コードの見かけの品質（いわゆる「クラフト」）を気にする人々と、コードを目的のための手段として扱う人々。少なくとも私は常にこの緊張を感じてきた。そして常に例外はあり、同じ日のうちに人が2つの陣営の間を行き来することもある。しかし一般的にはどちらかに傾く。私自身そうだ。そして一方が他方より優れているわけではなく、どちらも非常に賢く善意である可能性がある。営利企業で成功するには両方が必要だ。これはうんざりするほど議論されてきたが、私が好きな比喩の一つはイエス・キリスト対ジェームズ・ボンドだ。ほとんどの場合ジェームズ・ボンドが勝つ。ほとんどの人はジェームズ・ボンドのように考えがちで、そうでなければ組織が強くその方向に誘導し、昇進が決まり、自己強化されていく。

さて、新たな強力なツールが登場し、イエス・キリスト陣営はタオルを投げ入れる時だと思う。