OpenAIの数学証明に数学者たちが涙する理由
I know why Mathematicians weep
OpenAIが数理分野で数百件の証明を発表し、数学界に衝撃が走った。何十年も解かれなかった難問が次々と解決される一方、Fields Medal受賞者のHugo Duminil-Copinは「自分の研究分野が全滅した」と涙を流す。数学者Steven Strogatzは、科学は「会話」であり、AIはその千年の対話を中断させていると指摘。知識は得られても理解が失われる「Twilight Zone」のような状況に、人間の科学の意味が問われている。
「水曜の夜、私は泣いて、それが娘を起こしてしまった。彼らは私の研究分野を全滅させた」と、2022年Fields Medal受賞者のHugo Duminil-CopinはOpenAIの10月の発表後に語った。
HNでの議論
527- atleastoptimal
AIが人間を凌駕するあらゆる領域の具体的な要素を超えて、総じて言えば、あなたに地位や名声、生活賃金をもたらすものが商品化されるという概念は、誰にでも深い恐怖感を呼び起こすだろう。
単に仕事を失わせるだけでなく、あなたの存在の全構造、何千時間もの苦闘、社交ゲームや個人的な楽しみを後回しにした犠牲は、今や振り返れば無意味なものとなる。あなたは完全な無価値に一歩近づき、AIがより満足のいく個人的な伴侶、より価値ある友人、恋人などになるにつれて、それは確実に続くだろう。
これまで定量化できた素晴らしい脱希少性ユートピアの兆しが、人間の労働を通じたあらゆるレバレッジの除去だけであるなら、未来の進歩の中でどうやって安全を感じればいいのか？それはただ、超知能と交渉する際に何の足場もなく、5000人のラボ幹部と研究者が史上最も重要な研究問題を一発で解決したという信頼だけに頼るしかないことを教えている。
- ozozozd
ある程度共感できるが、私が悼んでいるのは別のもののように感じる：技術や数学などで真理を探求したいという欲求の喪失だ。
もう何も検証もテストもされない。すべては形や信憑性、あるいはどれだけ声が大きいかが問題だ。
誰も読まない100本以上の論文を出した。数学者たちは今それを読んでいるだろうが、このフォーラムでさえ、読んだり検証したりせずにこれらの問題は解決されたと結論づけている。
まるで誰もが「インターネットで読んだことをすべて信じるな」ということを忘れてしまったかのようだ。そして、誰もが検証されていない主張をまき散らし、同様に検証されていない主張に基づく強い信念を重ねるだけでは、非常に退屈な議論になる。鈍く、実質がなく、ただの純粋なノイズだ。
- antics
> 「Google Translateは素晴らしいが、言語学について本質的に何も教えてくれなかった」とStrogatzは言った。「なぜ機能するのか理解していない。ただ機能するだけだ。それはトワイライトゾーンだ。理解なき知識だ。」
これは真実ではなく、今多くの分野で我々が行っている巨大な議論の核心だ。
古典的なChomskyの統語論（文を構文木としてモデル化する）は、現実の人間言語の豊かな構造を驚くほど予測してきた。しかし、「単語」や「名詞句」といった概念を、人間言語について分析し予測するために特別に発明したことを忘れがちだ。LLMと現代のMTが決定的に示しているのは、これらの現象を記述する別の全く異なる方法があり、それは記述的にははるかに劣るが、予測的にははるかに優れているということだ。
これらがトレードオフの関係にあるように見えるのは残念だが、「なぜ機能するのか理解していない」わけではない。なぜ機能するのかは完全に理解している。理解していなければこれらのシステムを改善することはできない。我々に欠けているのは、これを形式的に特定・分析可能なものに還元する、クリーンで記述的な理論だ。しかしそれらは別のものであり、これがこれらの空間で働く多くのコミュニティ（言語学者対計算言語学者、数学者対計算数学者、メカニズム解釈派対経験主義者）の間の断絶の根源だ。
- RGS1811
この記事は、名前を挙げずに、Robert Brandomの意味論の中心概念である「デオンティックスコアキーピング」の周りを巡っている。概念体系を創造し維持する我々の能力は、社会的状況における理由のやり取りに依存するという考えだ。Brandomが最近私の頭から離れないのは、彼の理論の要素が、LLMが原理的に機能すべき理由と、それらが根本的に欠陥を持つであろう点の両方を説明しているからだ。LLMは我々の言語的・概念的ゲームの規範的規則性を重みにエンコードするが、持続的なコミットメントを賭けたり、時間とともにその傾向を変えたりすることができないため、我々のゲームの真の参加者にはなれない。
読む価値あり：Robert Brandom, “Making It Explicit: Reasoning, Representing, and Discursive Commitment”
- randcraw
Thompsonは純粋数学や理論科学のような営みを理解していないと思う。Einsteinの言葉を借りれば、「私は神がこの世界をどのように創造したかを知りたい。あれやこれやの現象や、あれやこれやの元素のスペクトルには興味がない。私は神の考えを知りたい。残りはただの詳細だ。」
数学者たちは失った埋没費用を嘆いているのではない。彼らは、無知のタープの端を初めて引き上げ、その下にある生の真実を_初めて_目にする喜びを、二度と味わえないかもしれないと気づいているのだ。人生に意味を与える彼らの発見の航海は、二度と乾ドックを出ないかもしれない。
- izzydata
数学者はこれまでと同様に重要であり続けると思う。LLMは、問題を力ずくで解いた後、現在の知識の幅で技術的に可能なものを見つけているに過ぎない。やがて、訓練でできることは尽き、さらに多くのことをさせるには、人間が見つけた新しい知識で訓練するしかなくなる。
その新しい知識を見つけるのは指数関数的に難しくなるかもしれないが、はるかに価値があるだろう。
- 6thbit
理解なき知識とは、ただ「42」を得て、それ以上の質問ができないようなものだ。
しかし、現時点で我々がそこにいるとは思わない。結果、証明、論文は、人間の同僚が別の結果を発表したのと同じように、レビューされ理解できると信じている。
また、結果が生成される速度は、我々が慣れ親しんだ方法で理解する集合的な速度では追いつけないとも思う。
AIが主に他のAIの結果を参照して発表する次の段階に入ると、これは指数関数的に複合し、人間が一つの結果を手作業で端から端まで検証するのに数十年かかるようになるだろう。
フレーズを翻訳しても言語を学べないことに同意するし、翻訳者は新しい言語を学ぶときに非常に役立つ必須のツールだとも信じている。
だからタオルを投げるのではなく、理解と検証のプロセスを改善し支援する方法を開発し適応させてはどうだろうか？
- flowerlad
ソフトウェアエンジニアとして、これらの数学者を気の毒に思うのは難しい。ソフトウェアエンジニアはAIの進歩により解雇されている。数学研究者は大学に雇用されており、OpenAIが彼らのパズルのいくつかを解いたからといって、大学が数学者を解雇することはない。数学者はまだ家族を養えるが、AIに取って代わられたソフトウェアエンジニアは養えない。それなのに、数学者の苦境についてのブログははるかに多く見るが、ソフトウェアエンジニアの苦境については十分ではない。
- KolmogorovComp
人間は、機械に劣っていても人間のパフォーマンスを尊重する能力を、人々は大幅に過小評価していると思う。チェスプレイヤー対Stockfish、マラソンランナー対車などを考えてみてほしい。
核心はもっと散文的で、記事に埋もれている。
> 私はまた、GPUの絡まりに仕事を奪われたくない。
GPT風に言えば、知識や地位ではなく、仕事とお金を守ることがより重要だ。
そしてそれは政策によってのみ答えられ、私見ではUBIによってだ。だから、できる人は投票を、そうでなければ抗議を、友人や家族、知人と議論し、討論し、ロビー活動をしよう。
- cleandreams
数学の過小評価されている部分は、他の人がさらなる研究と新しい洞察の基盤として使えるように、クリーンでエレガントな仕事に貢献することだと思う。Open AIからのこのダンプは逆のように思える。巨大で雑然とし、理解不能で、Leanのおかげでのみ真剣に受け止められている。
AIが数学の進歩を加速させるという想定があるが、我々が信頼しなければならない証明のゴミ捨て場を考えると、逆が真実かもしれないと思う。
私の懸念は、AIが根本的に新しい洞察に貢献し、新しい問題を提起できることが判明した場合にのみ払拭されるだろう。これは、AIの進歩が控えめに言っても遅い領域に我々を連れて行く。