「ChatGPTに聞けばいい」が教室を壊した、Oxfordで物理学を学んだ私の体験

この手のものが市場に出回る前に博士号を取得できてよかったと思う。かなり違った経験になっていただろうし、自分の論文テーマについて今ほど確固たる理解を持って終えられなかったかもしれない。

彼女のMathematicaノートブックに関するコメントは本当に胸に響く。ソフトウェアエンジニアではなく科学者として、コードをより重要な作業を加速する道具として使っている身としては、仕事でプログラミングスキルを学ぶ機会が得られて感激していた。その成果で節約できる時間が学習に費やした時間を上回るから、正当化できた。もうそれはできない。ソフトウェアを作っているのではなく、スクリプトを書いているだけなので、今日の最も安いモデルでも自分で書くより速く適切なコードを出してくれる。だから、少なくとも仕事中に新しいプログラミングスキルを学ぶことを正当化できなくなった。これらのツールが利用可能になる前に基礎を身につける数年があったことは幸運だ。

対面での協働が理解を深め、新たなアイデアやアプローチを双方にもたらすとき、社会は恩恵を受ける。

今やかつての潜在的な協働相手が多かれ少なかれ同じ生成コンテンツを糧にしているので、AIがそれを置き換えるとは考えにくい。

そして、記事でも強く示唆されているように、それが引き起こすさらなる疎外感は言うまでもない。

記事の物語レベルではある程度同意する。

最近、LLMの未来についての自分の考えも少し暗くなってきた。

LLMと『三体』小説のソフォンとの類似性がますます正確に思える。つまり、特に人間の進歩を停滞させる効果という点で。確かに、誰でもLLMの使用をやめることはできる（ソフォンとは違って）ので、この意味で進歩への制限はある種「ソフト」に見えるが、そうすることを選ぶ人の可能性はそれほど高くないと思う。難しいことを学んだり探求したりするよう自分を強制するのを避け、ただモデルに聞く方がずっと楽だからだ。

SWエンジニアリングのような分野ではこれを支持する傾向があるが（せめて標準と品質管理の側面が生のコード生成と同じ速さで進歩してくれれば…）、数学（そして数学だけではない。最終的にSWEの基盤となるコンピュータサイエンスも注目されている）に関してはTaoらと同じ懸念を抱いている。

> 特に、私たちの人生を意味あるものにする数少ないものの一つ、豪華な賞や地位ではなく、単に共有し議論し学ぶコミュニティを破壊するのはとても悲しいだろう。

まさにその通り。ただ問題は奇妙で、少なくともここでは独立した力がいくつか協働している：

(1) AIを発明している人々やAI推進派は、典型的には「情報のラッシュ」を楽しむように条件付けられ、人間の交流よりも個人的な表面的な楽しみを優先する人々だ。多くのナード/ギークは、自分の小宇宙の外で実際に交流する必要のない遊び場を持つという考えをただ愛していて、だからAIを史上最高の発明だと思っている。彼らはしばしば学校でからかわれたり、少なくとも人生の早い段階で部分的に疎外されたりした経験があり、テクノロジーに感情的な慰めを求める。

(2) アカデミアの歪んだインセンティブは出版を報い、資本主義のインセンティブは一般に、しばしば資本主義システムの外でしか曖昧な利益を生まない「コミュニティ」のような財を犠牲にしてでも可能な限り効率的であろうとする軍拡競争を生む。だから人々はAIを使う傾向がある。

(3) 非常に高度なテクノロジー自体が小規模なコミュニティを弱め、さらには破壊し、そのメンバーは意識的または無意識的に何かが欠けていると感じるものを和らげるための表面的な慰めとしてテクノロジーを求める。

AIは決して素晴らしいものではなかった。知識それ自体を目的とすることは良いことではなく、私たちは知識を求めるべきだ […]