AIがリーマン予想を「証明」、1700万行のLeanコードを生成
The stochastic parrots have apparently proved the Riemann Hypothesis
Levent AlpögeがAnthropicのモデルを使い、一般化リーマン予想の証明をLeanで形式化したと発表した。コードは1700万行に及ぶ。Scott Aaronsonは、Leanのカーネルバグや型理論の健全性への懸念を認めつつ、Lean証明付きのAI成果がこれまで撤回された例がないことから、証明は生き残ると賭けている。ただし数学者が納得するには、アイデアを自ら消化し再構築する必要があり、それには何年もかかるという。
数学者はもちろん1700万行のLeanでは満足しない。彼らが満足するのは、そのアイデアを自分たちで説明し、蒸留し、再構築できたときだけだ。
HNでの議論
302- Mikhail_Edoshin
「インプロ」という、即興スケッチを実践する演劇スタジオについての本がある。彼らが苦労したことの一つは、普通の会話だった。人はいつも会話をしているのに、なぜかアーティストたちは適切なアプローチを見つけられなかった。
ある日、スタジオの責任者(本の著者)がひらめいた。彼女は俳優たちに、自分か相手のステータスをどちらかの方向に、ほんの少しだけ常にぶつけるように会話を進めるよう指示した。
これが魔法を起こした。俳優たちは彼女を完全に理解しただけでなく、会話は流れ始め、観客にとって面白く魅力的なまま無限に続けることができた。(例は本を参照のこと。)
彼らがその秘密を発見した後、あらゆるところでそのパターン(ステータスゲーム)が見えるようになり、人間のコミュニケーションに他に何かあるのかと自問するまでになった。
これはイギリスのスタジオで、スケッチは主にコメディだった。
- esjeon
Lean + 確率的予測器 = ブルートフォース定理証明器
追記:AlphaGoも本質的にはほぼ同じだった。
- sc077y
これが知性でないなら、何が知性なのか分からない。
- hoppp
Leanが大量だ。誰かこれが全体としてどう機能するか理解できる人はいるのか?
- alterom
「それでも漏れは直すべきだ」
このアプローチと結論は、その会話の直接の文脈をはるかに超えて当てはまると思う。
- janalsncm
チェスを打つコンピュータを作ろうとしたとき、人々は直感的なレベルで深く理解できるものができると思っていたのだろう。そうではなく、Stockfishの局面評価を見ると「説明」は得られるが、それは本当に一連の計算の集約にすぎず、その計算自体が「確率的オウム」であるNNUE評価器の上に積み重なっている。
これは「なぜ」の問いに答えを求める生き物として、非常に不満足な立場に私たちを置く。直感的な答えは不完全であり、完全な答えは根本的に不可能か、完全に理解不能か、あるいはその両方だ。
ファインマンも磁気について似たようなことを言っていたが、チェスの局面を理解することはさらに良い例だと思う。磁気は宇宙の事実に依存しており、その最も基本的なレベルでは「ただそうである」ものだが、複雑なチェスの局面でさえ理論的には完全に説明可能だ。
- hansvm
少し脱線するが、さまざまなHNの投稿(参照されているブログ/サイト)が、nginxの403ページで私をブロックし始めている。この著者のサイトも含まれる。私のIPの評判は問題ないはずだ。次にどこを調べればいいか、誰かアイデアはあるだろうか?
- elorant
ほぼ無限の計算能力があれば、どれだけの数学者が同様のブレークスルーに到達できるだろうか。
- jstummbillig
ますます度合いを増す「何も理解できない」状態に、追いつく望みが全くないまま、どれだけうまく慣れていけるのだろうか。科学と工学のあらゆる分野で完全に無能になり、自分の気分や癖以外では実質的に何も貢献できなくなる。
人間はそれで大丈夫でいられるのか?幸せな猫でいられるのか?
- stymaar
余談:LLMはトレーニングパイプラインにRLVRが導入されて以来、確率的オウムではなくなった。