AIが生んだ数学の成果、責任ある公開の条件
Responsible Release of AI-Generated Mathematics
数学の著者は内容を理解し検証し責任を負うべきだが、AIは人間が理解できない証明を出力し得る。600件超のコミュニティ回答に基づき、AIラボが未理解の結果を公開する際の具体的な規範と、人間の理解を支援する資金提供などの責任を提言。数学の集合的検証を守るため、プロプライエタリモデルでの高度な問題テストの中止も求める。
AI labs that release substantial mathematical output without immediate accompanying human understanding must take responsibility for ensuring that human understanding will follow.
HNでの議論
102- kingstnap
ほとんどはごく当たり前のことだ。証明を「desloppify」すべきだとか、既存の文献を適切に引用すべきだとか、検証用の成果物を添えて、コメントがつけられるような適切な場所に迅速に公開すべきだとか、そういう考えはまったく議論の余地がない。
辛辣な見解は、間違いなく、長年の数学的問題を（特にプロプライエタリな）モデルのベンチマークとして使うべきではないという立場だろう。冒頭でまさにそう述べられている。
その根拠は非常に明確だ。
> AIラボが数学研究のためにプロプライエタリな内部モデルを使うことは、ラボが他の分野を追い越し、数学コミュニティを事実上自らの学問から疎外する二層構造を生み出すリスクがある。
数学者がAIラボと競争できないのは（非数学者にとっては）楽しい遊びだが、より危険な方向は、これが他のあらゆるものにも当てはまるようになったときだと思う。例えばサイバーセキュリティとか。だからこそ、Anthropicの「あらゆるオープンなものに完全反対」という姿勢は、彼らがリスク要因として完全に無視している権力の集中という点で、実は*極めて*危険だと思う。
この中で最も議論に値するのは、間違いなく、ラボが数学者に解説を書かせるために資金を提供すべきだという考えだ。
> 我々の原則の一つは、AIラボには、自らが公開するAIの数学的成果について人間の理解を深めるための支援（資金提供を含む）を提供する責任がある、というものだ。
明らかに、この方向性は数学者の役割を […]
- throwaway713
> 我々は、プロプライエタリなモデルで高度な数学的問題をテストするのをやめるよう彼らに求めている。
自分だけかもしれないが、こうした種類の要求は、なぜか誰かがどう呼吸すべきかに口出しするようなものだと感じる。数学だぞ…数と記号はただプラトン的領域に存在していて、誰でも好きなように扱える。他人にやめるよう求めるのは明らかに馬鹿げている。
功績を正当に評価すること？それは構わない。もしあなたのモデルが多くの他者の努力を取り入れているなら、貢献した全員（間接的であっても）の承認を求めるのは妥当だ。しかし、要求されているのはそういうことではない——おそらく彼らの要求は、巨大なテキストコーパスで訓練されていないものを含め、あらゆる高度なMLモデルを包含している。
- mchusma
数学の進歩が社会を前進させるのなら、進歩は良いことだ。
あるいは数学は趣味のようなもので、AIがその楽しみを台無しにするかもしれないが、チェスや囲碁のプレイヤーのように前に進む必要がある。
- unddoch
AIが解いた重要な未解決問題の一つ一つについて、数学者がいなければ、その問題の存在と重要性を知ることはなかっただろう。
有名な数学的予想は社会的構築物であり、数学コミュニティのメンバーが何十年、時には何世紀もかけて注目してきたことで形成されている。それがなければ、将来の数学の「進歩」は、Leanのステートメントの表と、AIが生成した確からしい/証明不可能なビットを生成するだけに還元される危険がある。
- astaza123
AI企業への回答としては、これはひどすぎる。トレードオフを伴うWin-Winに近い解決策を見つけようとする代わりに、こう言っている：すみません、何も思いつきませんので、ただ金儲けをやめてくれませんか？数学にはもっと優れた危機管理者が必要だ。
しかし、アイデアとしてはさらに悪い：これは、数学者の利益に触れるかもしれない限り、常温核融合や癌などへの潜在的な研究を止めるという意味なのか、それとも数学が絶望的に無関係すぎてそんなことはあり得ないという意味なのか…繰り返すが、危機管理者として、これは提示の仕方ではない。
サムに妨害工作のために雇われたのかと疑ってしまう。
- LelouBil
私はCédric Villaniのインタビュー（フランス語）を見た。彼は自分自身と他のフィールズ賞受賞者を代表して、数学を前進させるには三つが必要だと言っていた：
- アイデア
- 学生
- 問題
基本的に、学生が独創的なアイデアを持ち寄って既存の問題を解こうとし、それが新しいアイデアを生み、場合によっては新しい問題を生み、新しい学生が新しいアイデアで解こうとする、という連鎖だ。
そして彼は続けて、数学におけるLLMの問題は、問題が尽きてしまうのではないかという恐れであり、そうなると学生は挑戦しようとしなくなり、数学全体の理解を損なう可能性がある、と述べていた。
全くの専門外なのでどう考えるべきかわからないが、重要に思える。
- Animats
この論文は、AI企業が人間の数学者に金を払って、AIが生成したものを理解させるよう求めている。
それは珍しい要求だ。
- dsign
> しかし、今やAIは、プロンプトを出した人間がその議論を理解できず、検証できず、責任を負えない状況でも数学的議論を出力できる。
これは「誰でもプロンプトは出せるが、理解できる人は少ない」と読める。そして「理解できる人をもっと増やす必要がある」。今日よりも多くの数学者がいて、全員が高度なモデルを操縦していれば、パイは大きくなるだろう。問題は、AIの能力が、そうした数学者を生み出す教育パイプラインを（インセンティブを奪うことで）枯渇させており、AIが教育に与えている影響に関する最近の噂が本当なら、学生が大学院にさえ到達する何年も前にそうなっていることだ。
個人的には、それほど悪くないと思う。バトラー聖戦の後に線形代数を理解する人間が一人もいなくても、それは勝利だ :-) 。