Terence Taoが提唱する「Math 2.0」：AIによる証明の氾濫が数学の未来を変える
Terence Tao: Math 2.0 [pdf]
Terence TaoがCaltechで行った講演「Math 2.0」のスライド。AIの台頭により、数学は「証明の希少性」から「証明の氾濫」の時代へ移行しつつある。証明が客観的に検証可能でデジタル化に適しているため、AIは数学の問題解決で目覚ましい成果を上げる一方、その能力は極めてギザギザで、未解決問題の空間は依然として無限に広がる。Taoは、問題解決の盲目的な最適化は数学の長期的健全性を損なうと警告し、人間の理解とAIを組み合わせた持続可能な「Math 2.0」の方向性を提示する。
「Math 2.0」を実現する上での主要なボトルネックは、技術でも、制度的文化でもない。それは想像力である。
HNでの議論
265- fnordpiglet
これは時に、公の場での狂乱的な悲嘆のプロセスのように感じられる。合理化のいくつかはかなり無理があり、世界を何らかの明確な秩序に位置づけようとする試みは強迫的とも言える。
この技術進歩がどこに向かうのか、あるいはどこに落ち着くのかはわからない。だから現時点で機能するパラダイムを確立しようとするのは馬鹿げている。どんなシステムでも同じで、初期条件は極めて混沌としていてモデル化不可能かもしれないが、時間が経てばしばしば安定状態が現れる。しかしその安定状態は、初期の状態からは特定できない。
多くの人がこれを感じているのはわかる。別の物理の比喩を使えば、ジャーク（加速度の加速度）の感覚だ。それは不快で位置感覚を狂わせる感覚だ。安全で安定していると感じられた世界が突然そうでなくなる。それは小さな悲劇という意味ではなく、地球規模の再編という意味で。これは、何世代にもわたって安定した仕事を享受してきた工場労働者に起こったことだ。農民にはもっとゆっくりと、しかし確実に起こった。
これが希少性の終末期の感覚だ。様々な種類の労働が急速に価値を失う。食事と健康のクーポンを労働と交換する仕組みがひび割れ、人々は自分たちの労働が偉大な書物が語ったように神聖なものではなく、単に代替手段がないから必要とされていただけだと気づく。自分たちの労働がもう評価されないかもしれないという気づき、目的意識が揺らぐこと、そして生存そのものを労働に結びつけてきたという事実が相まって、致命的な締め付けとなる。人々が公に悲嘆するのも無理はない。
しかし、もしかしたら私たちの目的は労働することではないのか？ もしかしたら私たちは […]
- dekhn
私は創薬とAIの分野で働いているが、彼の癌医療に関するスライドはあまりよく理解されていない。薬がどのように作用するかについてのモデルや物語はあるが、それらはお粗末なほど不完全だ。
私はほぼすべての医師や医学研究者に尋ねる：もしAIが作成した薬が患者の癌治療の結果を飛躍的に改善するなら、誰もその仕組みを理解していないからといって処方をためらうか？ 「はい、ためらう」という答えはまだ聞いたことがない。ほとんどの人は「効果のある治療を人に拒むのは残酷だ」と言う。
TaoはAIが数学や他の分野に与える二次的影響に焦点を当てすぎていると思う。人間は二次的影響について推論するのが苦手だ。特に、世界がこれまでに作った最も高度な数学モデルを使って、リアルタイムで動的に起こっているものについては。
- squidmaster
> このカクテルをあなたの血流に注入する前に、この治療法の仕組みを理解している人間の癌研究者が少なくとも一人いることを知りたいと思うか。
Taoは自分の専門外だ。多くの薬には理解された仕組みがない。全身麻酔の仕組みさえまだ解明されていない。医師が腫瘍を摘出するためにあなたを切開するとき、麻酔を放棄したいか？
- samuelknight
スライド12と13は、10月8日の100以上の解決策に対する100以上の反応から得た私の結論を要約している。何人かは、OpenAIのドロップに含まれていた回答が、何年も取り組んできた問題に終止符を打ったと報告した。何人かは、ちょうど提出したばかりの助成金申請書を完全に書き直さなければならないと言った。他の人たちは、取り組んでいた問題の解決策を知ることを、旧友や恋人を失うように感じたと述べた。一般的な感情は、あたかも20世紀初頭に生まれてこの地点に到達する前にキャリアの弧を終える方が良かったかのように、分野の喪失を嘆くものだった。私の結論は、この分野は自分たちの古い問題がもはや野心的ではないことを頭に叩き込む必要があり、短期的な仕事は新しいフロンティアを見つけることだということだ。
Terrance Taoが推測した非常に疑わしい一つの考えは、AIボタンを連打すれば、洞察に富む新しい方法を生み出すことなく未解決問題を解決するというものだ。しかしOpenAIのドロップはこれを反証しているように思える。例えばDFTのsub O(nlogn)証明は、人間の非常に古い仮定に反していた。この分野の数十年の研究は、誰も十分に疑問視しなかった準最適な方法への漸進的な進歩だった。より一般的には、私たちは常に超人的AIに戻って「この問題を攻撃せよ、ただし以前試された方法を使うな」と言えるはずだ。
- theturtletalks
Primeagenのこの件に関する動画をちょうど見たが、Taoの主張は、ジュニアがもはや証明を解いてフィールズ賞を獲得する道がなくなったということだ。また、AIが証明を発見することでコミュニティの部分が損なわれていると主張している。以前は人々が講演や共同研究に招待されていた。今、そのすべてが奪われつつある。パンドラの箱は閉じられないので、コミュニティは適応しなければならない。
Primeはまた、ソフトウェア開発は異なると述べた。ソフトウェア開発では、製品が目指すものであり、そこに至る手段が破壊されても業界が共食いされることはない。
数学研究では、プロセスが製品だ。研究する部分を取り除いたら、あまり残らない。しかし私の疑問は、OpenAIが公開したこれらの数学の証明によって、数学は単に新しい証明を見つけるだけでなく、実際に証明を使って世界を変える方向にシフトするのか？ということだ。
- gste
> AIを使って新しい原理、方法、洞察を見つけ、強調すること。単に新しい証明だけでなく。
私は、新しい証明を生み出すことによって、AIは既存の原理を検証したか、新しい原理を発見したかのどちらかだと思っていた。それは研究する価値があるのではないか？
数学者たちは、AIの証明をレビューするのは自分で書くほど楽しくないと文句を言っているのか？ プログラマーになってみろ…ようこそ我々の世界へ！
もしAIに想像力がなく、新しい原理を発見していないなら、それは私たちに恩恵を与えている。新しい原理を必要としない問題に線を引いているのだ。だからまだ残っている問題や予想は、より興味深いものだ。
- alecst
癌の話はさておき：TTがなぜ明日のモデルではなく今日のモデルができることに固執しているように見えるのか、まだ理解できない。モデルが証明を説明し提示するのも上手くなるのは現実的で、想像もできる。おそらく彼は、彼の（そしてある程度は私の）スキルが関連性を持ち評価される未来がないかもしれないということを、感情的に受け入れる準備ができていないのだろう。胸が痛む。間違っていてほしいが、逃げ込む高みがもう残っていないように感じる。
- math_dandy
スライド「問題解決を超えて」より：
「これらの灯台（未解決問題の解決）に自動化ツールで時期尚早に到達することは、取られなかった道の探求を妨げ、周囲の分野を不毛にしかねない。」
この重要な問題は、数学者の心理と、世界中の学術的・制度的数学のインセンティブ構造に中心がある。数学が今後繁栄するためには、数学的進歩の本質について異なる考え方をするように脳を再調整する必要がある。そして、もはや忠実でない代理指標を目標にするのではなく、意味のある数学的進歩そのものを促進する方向に制度的インセンティブ構造を再方向づける必要がある。
Taoが言及する「不毛化」の正確な性質や原因が何であれ、私たち（数学コミュニティ）はそれを修復するために自分たちだけに頼るしかない。しかし、多くの利害関係者と異なる既得権益を持つ硬直した学術機関のレベルでの根本的変化を伴うため、そのような修復は遅く、苛立たしく、物議を醸し、成功の保証はないだろう。