数学者たちが警告：AIによる数学の「深刻な目標のずれ」

数学者として、この宣言よりは少し楽観的かもしれない。

望月のabc予想を考えている。彼は比較的孤立して研究し、コミュニティに巨大で理解不能な証明を投げ出した（少し単純化しすぎだが）。AIが例えばRHの巨大で理解不能な証明を生成したら、まったく似ていないわけではない。

さて、結果はどうか？望月の場合、多くの懐疑が生まれたが、会議や論文、廊下での会話、学生との議論なども生み出した——まさにこの宣言が数学の主な原動力だと言うコミュニティプロセスが一気に起きた。

最終的に望月の証明には致命的な欠陥が見つかったと考えられているので、特にどこにもつながらなかった。しかし、仮想上の「AIによるRHのLean検証済み証明」の状況では、望月の場合に見られたコミュニティ活動がかなり多く生まれるだろう。そしてそれが正しければ、そのコミュニティ活動は生産的だろう（解説講演、学生に肉付けや一般化のための問題を与えるなど）。

数学は他の分野のようになるだけかもしれない——計算資源のために多額の資金を持つラボに依存し、AI生成の証明のコーパスを掘り下げるなど。

私には、AIが破壊したのは数学者が理解を深め、それを互いに共有する能力ではなく、むしろ彼らがその理解にどれだけ貢献したかを測るために伝統的に使われてきた物差し（未解決問題を解くこと）を破壊したように思える。

これがクレジットの割り当てという点で問題であることは理解できるが、これらのモデルが有能であるという点では、猫はすでに袋から出ていると思う。AIラボがミレニアム懸賞問題を解くために何百万ドルも費やすまでもなく、低い果実を摘むためにモデルを使う人は他にもたくさんいる。有名な未解決問題への進捗を共有しても、数日以内に誰かに「先を越される」リスクを冒さずに済んだ昔の状態に戻すような社会的解決策はないだろう。

最も可能性の高い結果は、数学がより秘密主義になるか、誰が「最初」に問題を解いたかよりも、より熟慮的なクレジット割り当てのアプローチが取られるかだと思う。前者の場合、進歩が遅くなるかもしれず、後者の場合、クレジットがより主観的になり、絶え間ない論争の種になるかもしれない。

数学分野におけるAIに対するTaoの批判は、19世紀にフランスの美術評論家Charles Baudelaireが写真について述べたことを思い出させる[0]。

Baudelaireは、写真が失敗した画家、つまりまともな訓練を終えられなかったような三流どもの避難所になったと主張した。写真は世界の機械的な描写として、すでに存在するものしか記録できず、絵画のように現実を変容させることはできなかった。

彼はまた、人々が写真に「殺到」する熱狂を批判し、この技術的「進歩」が芸術を弱めていると不満を述べた。

皆さんも類似点を感じますか？

[0] https://fr.wikisource.org/wiki/Curiosit%C3%A9s_esth%C3%A9tiq...

これは90年代にコンピュータがチェスを破壊していると不平を言っていた人々にとても似ている。30年後、チェスはかつてないほど人気があり、チェスプレイヤーはかつてないほど強くなっている。今ではチェスの本がかつてないほど多いとしても驚かない。さらに、コンピュータ以前に書かれたチェスの本の多くは、多くの点で単に間違っていたことがわかった。チェスにおける「正しい」答えのオラクルを、たとえ説明がなくても、適切に使えば、人間はより広く正確な洞察を発展させられることがわかった。

ここでの議論も似ている。この声明が言っていると私が理解する恐怖は、100ページのLean証明という形で正しい答えを与えられることで、人間が数学そのものの構造について洞察を得る機会を奪われるというものだ。人間が100ページのLean証明をより扱いやすいものに消化しようとする中で洞察を発展させ続けられない理由はないと思う。しかも、より確実で、無駄な試行錯誤が少ない状態で。

> 私たちは知的活動に対する一般的な脅威を目撃している

これが核心であり、数学やコンピュータサイエンスをはるかに超えている。大勢の人間に何かをさせるには、動機づけが必要だ。KleosとTimē、すなわち名声と名誉などだ。これらのAI企業は、自分たち以外のすべてからこれを奪おうとしている。そして最近のミレニアム懸賞問題は完璧な例だ。

この問題を人間として解けば、途方もないKleosが得られただろう。私の名前は数学の年代記に刻まれ、残りの人生、称賛の講演ツアーが待っていた。この一つの勝利で、歴史を通じて認められただろう。人間が望みうる最大のものだ。それが奪われた。

それはまた、大きなTimēも与えたはずだ。賞金、教授職、書籍契約。すべて消えた。

知的領域における「名声など」の希望がすべてAI企業に奪われるなら、彼らはこうした営みを追求する人間の動機をすべて取り除くだろう。

おそらく栄光は、これらの恐ろしい獣を打ち倒すことから生まれるのだろう。

> 問題を解くことは、概念的理解と洞察という主要な目標を達成するための道具と代理にすぎない。

これはほとんどの知的学問分野に対するAIの影響であり、本当に心配なことだ。

正直に言うと、ここではそれほど怒りを感じなかった：https://news.ycombinator.com/item?id=49662116

ここでの問題の多くは、これらの問題自体が面白いのではなく、面白い道へと導くことにあるように思える。本当の理解を得ずに解いてしまうと、目的が損なわれる。

パンケーキをひっくり返す問題をワッフルメーカーで解いた、巡回セールスマン問題をZoom会議で解いたと言うようなものだ。

この手紙は、人間の理解が数学の進歩に決定的であり、AI企業はそれを気にかけていないと不満を述べている。しかしAI数学の約束（そして恐怖）は、もし成功すれば人間の理解が無関係になるということだ。それが目標だ。だからこの手紙のメッセージは聞き入れられないだろう。

AI企業の従業員が、人類絶滅の確率を10%以上リスクとして負っていると公言していることを忘れないでほしい。彼らはすべての男女と子供の命を、自分たちの息子や娘の命を、仕事を続けるために故意に危険にさらしている。すでにそんな合理化をしている人間は、数学者のキャリアのために涙を流したりしない。風防ガラスの上の虫けらにすぎない。

この立場と彼らがどこから来ているかは理解できるが、特に認知的負債に関して、AI支援やバイブコーディングに対するエンジニアの反論と非常によく似ていると思わずにはいられない。それでもソフトウェア業界は突き進み、伝えられるところでは山ほどの未レビューのコードを本番環境に押し込んでおり、世界は終わっていない。

もちろん誰も本当に心地よくはないので、これは業界が適応し、複雑さと信頼を管理する新しい技術を編み出すための強制力でもある。数学でも同じことが起きると思う。

しかし、最終的に3つの数学になる可能性もある。私たちが理解するもの、理解しないもの、そして理解はしないが機能することを証明できるものだ。魔法のように——その言葉の肯定的な意味も否定的な意味もすべて含めて。

これらのモデルがまもなく私たちの認知能力を超えることは明らかだ。私たちが追いつけないからといって、彼らを抑えるのは正しいのだろうか？多くの発見は私たちをはるかに超えていて何もできないだろうが、それは私たちを傷つけられないことも意味する。一方で、理解しなくても実用的に役立つ応用に利用できる発見も多いかもしれない。

LLMと同じように。