AIが数学の常識を超え始めた今、Terence Taoのブログが「もっと多くの数学者が必要だ」と訴える

プロセスが結果であるということを理解できていない。数学や計算機科学、情報理論を学ぶのは、商品を生み出すためではない。自分の心を変革するために学ぶのだ。LLMの出力は、それを理解する人間の心がなければ無用だ。超知能を持つことはできるが、人間がそれを理解できなければ、それはただの役に立たない死んだ人工物にすぎない。生涯にわたって適用される実践こそが、理解する能力を生み出す。LLMに答えを求めれば、人工物ができる。人間は人間なので、その要求のほとんどは「働かずに金持ちにさせてくれ」に帰着する。だから要求自体が逆説的で満たしようがない。哲学者たちは人類の歴史を通じてずっと言ってきたことだから、何か突破口が開くなどと期待して待たないほうがいい。

「ドメイン理解を深めること」が抽象的な概念である（そもそも彼らにとって概念ですらないかもしれない）プログラマーを私はたくさん知っている。しかしビッグAIの時代において、私はこれがより必要になっていると感じる。減るどころか。

少なくとも私の観察では、同僚たちがClaudeに丸ごと放り投げると、古典的なXY問題的なやつ、ひどいユーザー体験、過剰に複雑な解決策（人間であれエージェントであれ、そのコードを反復するかどうかに関わらず、将来問題を積み上げることになる）に直面している。こうしたことの多くは、実際に腰を据えて考えることで解決できる。しかもコード設計のレベルで、単に仕様を書くレベルではなく。

問題を解くことには、単なる解決策以上の有用な出力があることに多くの人は気づいていない。明らかに、請負業者のマインドセット（システムの後影響を気にしない）なら、これは関係ない。そういうマインドセットを促進する企業もある。すぐに買収されること以外に大きな野望を持たない企業なら確かにそうだ。それはそれでいい。しかし多くの企業は実際には持続可能性を重視しており、そういう場所では理解が何よりも重要だ。

「理解を放棄する」ことは避けられない気がする。

すべてを理解できると考えるのは、ある種の傲慢さだ。本当に難しい問題では、なぜ解が真なのかを人間が理解できない可能性は十分にある。しかし最終的には、その解を現実世界に適用する実用的価値が、理解したいという欲求を凌駕するだろう。

数学はほんの始まりにすぎない。物理学や生物学など他の分野でも起きているのを見る。多くのソフトウェア開発者は、まったく同じ理由で、自分たちのシステムの一部を理解することをすでに諦めている。

負け戦のように思える。

私たちのほとんどと同じように、私もAIがもたらすかもしれない未来への純粋な楽観と恐怖の間を行き来している。最近、10歳の子供と一緒に楽しいビデオゲームをバイブコーディングし始めた。この経験は仕事とは違う。なぜなら、どちらのスキルセットに関係なく、愛する人と一緒に個人的なアートを作るのを助けてくれる、まるでボトルの中の魔法の精霊を個人的に持っているような感覚で、純粋に楽しいからだ。この投稿の著者が今主張している概念は、数週間前よりも私には響く。AIが私たちの知的活動において生み出せる表面積は無限であり、それを探求する人間が必要だ。その意味では、私たちはいくらいても足りない。検証者としてであれ、創造者としてであれ。

「もっと多くの数学者が必要になるだろう。」

この記事が本当に言っているのは、もっと賢い数学者が必要になるということだ。

それは小さな肉の脳を持つ人間には不可能だ。人間は天井に近づいている。AIはまだ始まったばかりだ。

実際には、おそらくIC設計で最初にその限界にぶつかるだろう。かつてPentium Proの取り組みを率いたIntelのエンジニアリングマネージャーの講演に行ったことがある。あれは最初のスーパースカラーx86 CPUで、設計にはピーク時で約5,000人のエンジニアが必要だった。

それだけの人を一つのことに協調させるのは本当に偉業だった。

その後Intelは何年もその設計に小さな修正を加え続けた。

まもなくAIによってさらに複雑な設計が生み出されるのを見ることになるだろう。ゲートレベルで理解する人間はいなくなる。AIが書いたプログラミング言語のコードを読むだけでも十分ひどい。AIが書いたVerilogを読むのは、小さな部分を除いて人間の理解を超えているかもしれない。

過去数年のAIに関する会話の多くは「ほとんどすべての仕事をAIに委任するが、最も重要な決定は人間に残される」というものだった。

私は逆が真になるだろうとかなり確信している。最も重要な決定はAIによってなされ、人間は好みの問題として決定を導くことだけを任される。AIは公平で不変であり得る。その決定を無限に探り、推論することができる。

これは現在の人間の決定には当てはまらない。そこではお役所仕事、官僚主義、レントシーキング、現状維持が見える。AIはこうした人間の構造を見抜くだろう。

AIの発見を理解するためにもっと多くの数学者、物理学者、科学者が必要になるという考えは好きだ。それはAIの最良の結果かもしれないが、私は逆を恐れており、もはや自分たちや社会を維持する知識を持たない隅に追い込まれ、社会そのものが崩壊することを恐れている。

> この責任を負うために、私たちは数学者が貢献できることの見方を広げる必要があるかもしれない。私が考えているのは、「展開可能な知的予備軍」のようなものだ。つまり、人類が呼び出して、AIによって可能になった重大な突破口を理解するのを助けてもらえる、数学的に洗練された人々のコミュニティである。

> 難しい未知のアイデアを理解する能力は、私たちが社会に提供できる最も重要な貢献の一つになるかもしれない。私たちはそのスキルを、通常の研究関心をはるかに超えた問題に喜んで持ち込むべきだ。[3] そうすることは、私たちの天職の感覚を広げるよう求める。

私の読み方が間違っているのだろうか、それとも彼は（数学者の）データサイエンティストが何年もやってきたことについて話しているのだろうか？つまり彼は基本的に、プロンプト/ソフトウェアエンジニアに転身した元データサイエンティストはデータサイエンティストに戻るべきだと言っている。

いずれにせよ、人々はAIを以前の現状に当てはめようとするのをやめるべきだ。必要なのは好奇心旺盛な人々であり、それは常に必要とされてきた。

数百年前には「数学者」などいなかった。数学者/哲学者/芸術家/物理学者がすべて一人に統合されていた。だから「数学者」が何千年も存在してきたわけではない。

必要なのは好奇心旺盛で倫理的な人々だ。

もしかするとAIは、バランスの取れた科学者/哲学者の時代を再びもたらすかもしれない。記事はAIに追いつけないと言っているので、直感に反するように聞こえるのはわかっている。

何かを学ぶ主な理由は、実際にその主題の言語でコミュニケーションできるようになることだ。数学には、他の分野の言語では簡単に捉えられない複雑なアイデアがある。数学を学ばない人は、数学における価値ある目標が何か、あるいはそれが他の分野にどう役立つかさえ理解できない。

「より良い」が適切に定義されていないのに、モデルに「より良く」するようプロンプトするだけではどうにもならない。

> これはAmit Sahaiによるゲスト投稿です

Terrence Taoの投稿ではない。注意して。