AIの進歩が人間の数学者を不要にするどころか、むしろ必要にする理由
Why Do We Need Human Mathematicians Anymore?
AIが数学の領域にも及ぶ中、Po-Shen Lohは「人間の繁栄を助ける」という公理を提唱する。AIの進歩は制御点を爆発的に増やし、熟練した人間の仕事を大量に生む。その需要に人が追いつかなくなれば、AIの進歩は減速せざるを得ない。数学者コミュニティはこの公理を採用し、人間主導を維持すべきだと論じる。
AIの進歩は、監視すべき制御点をあまりにも多く生み出し、それらすべてを制御するのに十分な人数が存在しなくなる。それらは仕事だ。高度に熟練した仕事だ。
HNでの議論
346- qubex
私は応用数学者だと思っているが、厳密には経済学者（主にマクロモデル）であり、オペレーションズ・リサーチャーであり、微分ゲーム理論家でもある（奇妙な組み合わせだが、まあいい）。文脈として言えば、私は45歳で、仕事人生のほとんどを企業で過ごしてきた。
私は学問的にはいつも不利な立場にあった。操作や導出がかなり不器用で、暗算は壊滅的だからだ。失読症でもある。しかし1990年代後半、高校生の頃からCAS（数式処理システム）に慣れ親しむようになった。最初はDerive、次にMathlabのSymbolics機能、そして最終的にはMathematicaだ。
この移行は私にとって非常にうまくいっている。今では自分の直感を探求する作業を、ますます強力なツールに委任できる。もうピラミッドのブロックを自分でランプを引きずり上げる必要はなく、ヘリコプターで（いわば）投下できる。私が持ち寄るのは直感と理解だ。
これは天文学に少し似ていると思う。古代、望遠鏡以前は、優れた視力が天文学者になるための前提条件だった。その後、望遠鏡が登場すると、視力のある人なら誰でも観測能力が飛躍的に向上し、今では電波天文学やその他の遠隔センシング（ニュートリノ天文台、重力波干渉計）によって、ほんの数十年前なら文字通り排除されていたであろう盲人にも分野全体が開かれている。
行って増えよ：今や誰でも数学者になれる。そこには […]
- twelve40
> 我々（人間）は人類の繁栄を助けるべきだ。誰もが同意するわけではないことは理解している。私は「人間中心主義的すぎる」として「種差別主義者」と呼ばれたことがある。
これは狂気だ。「種差別主義者」の人々はさておき（他のすべての種が繁栄する最善の方法は、人間が今すぐ自滅することだが、それは完全に狂っている）、私は逆の問題を抱えている。_公理_はこうであるように思える：我々は「私」の繁栄を助けるべきだ。「私」とは、今、他の皆の未来を犠牲にして、自分たちだけのために何兆ドルも稼いでいる人々のことだが、彼らの誰一人として、私の携帯電話を一瞬たりとも預けることはできない。
> もし業界が人類の繁栄を助けるという公理にコミットするなら
彼は、おそらく非営利団体以外に、そんな業界をどこで見ているのだろうか？
- Planktonne
AIに関わる全員が『バベルの図書館』[1]を読むべきだった。
それは多くのことを扱っているが、おそらくここで最も関連する考えは、理解なしにはいかなる情報も意味を持たないということだ。我々は可能な限りの知識をすべて生成できるかもしれないが、誰か――人間が――それを検証し理解しない限り、それは価値を持たない。死の治療法が月に書かれているかもしれないが、誰もそれを読まなければ、それは本当に発見されたことにはならない。
[1] https://maskofreason.wordpress.com/wp-content/uploads/2011/0...
- daxfohl
人々は、やるべき数学は有限で、それが終わればお開きだというふうに話し続けている。しかし、数学は決してそういうふうには機能してこなかったではないか？ 一つの問題を解けば、新たな十の問題が開ける。フラクタルのように、ズームインすればするほど、より多くの細部が現れる。AIが問題を解くのがどれほど上手くなっても、この投稿に漂っているような「最終的で完全な数学大全」を生成することはないだろう。
数学が意味を持つのは……一部の人がそれをやるのが好きだからだ。他のあらゆる人間の営みと同じだ。それ以上の理由は必要ない。そしてAIはそれを変えない。探求すべきこと、見つけ出すべきこと、おそらくAIの手が届くぎりぎりにあり、探求を続ける価値があるかどうかを人間が決める必要があることは、これからも存在し続ける。（忘れないでほしい、AIは無料ではない）。
だから、まあ、数学を探求するのを楽しむ人々にとっては、常に興味深い領域が探求のために存在するだろう。AIはただ、より良い懐中電灯を与えてくれるだけだ。
ちなみに、私は近いうちに、意図的であれ、偶発的であれ、あるいはクリップ工場であれ、世界中の政府がこれをしばらく停止させ、おそらくGPUへのアクセスを完全に遮断するような事件が起こることに同意する。それは避けられないように思える。しかしそれは一時的な猶予に過ぎず、この投稿の核心的な哲学的前提を回避している。
- retrocog
村が時計塔を建て、誰もがそれを見上げて何時か分かるようにした。塔は人々がより簡単に会えるよう助け、仕事の予定が合い、食事が共にされるようになった。時が経つにつれ、太陽を見る人は減り、時計が権威となった。時計が止まると、誰も何時か分からなくなった。
会議に遅れ、人々が修理を待ちわびる中、混乱と口論が続いた。
村の老婦人は夜明けにパンを焼き続け、太陽を見るのを決してやめなかった。彼女は決して時計に頼らなかった。村人たちは彼女の家に集まり、彼女を賢いと呼んだ。彼女の習慣が、時計が修理された後にそれを再調整するのを意図せず助けることになったからだ。彼女は答えた、自分は賢くも特別でもなく、ただいつものパン焼きの日課をこなしていただけだと。
- strideashort
我々は数学を直感とアクセシビリティへと方向転換する必要がある。
数学は、意図的であれそうでなかれ、堀として機能してきた、閉鎖的でアクセスしにくい制度を築いてきた。
私は数学は数学的表記とはほとんど関係がないと信じている――直感の方がはるかに重要だ。直感を持ちながら「数学を読む」ことができない人はいる――多くの音楽家が「楽譜を読めない」のと同じように。
しかし数学を読むことは、アイデアや直感を保証しない。そしてそれこそが数学に必要なものだ。
- lnrd
> 数学研究コミュニティを保護・指導するための、多くの理性的な宣言や公開書簡がここ数ヶ月で発表され、OpenAIがNavier-Stokesのミレニアム賞問題の変種に対する解答を発表してから激しさを増した。それらは数学者の間で急速に広範な支持を得た。ライデン宣言はすでに4,000以上の署名を集め、Math and AIは7,000以上、Caltech Mathathonに反対する公開書簡でさえ2,000以上だ。
> 非数学者の間では、世間の反応は同情的な方が多かったが、私は（特にテクノロジーと経済学のコミュニティから）声高な少数派が理性的な反論を述べるのを観察した。概して、数学者は適応し、新しいAIの世界で制御を譲るべきだというものだった。
興味深いことに、ソフトウェアエンジニアは、代わりに宣言も公開書簡もなしに早々に諦めてしまったように見える。
- FLeXMurphy
HNには、terry taoが書いたものではなく、このようなゲスト投稿にタグを付け始めてほしい。HNは内部的にすでにAIツールを使ってコンテンツをスキャンし、AI生成かどうかを判断していると聞いているので、これは可能だと思う。
- immmmmm
私はアカデミアを離れているが、元同僚を擁護するために指摘しておく：
- 数学と理論物理学は（他の分野に比べて）非常に安価だ
- 数学と物理学の研究者は、他のすべての科学分野に講義を提供している
- 数学・物理の問題を総当たりで解くには、消耗させるほどの計算資源と資金が必要だ。これにより、これらの分野の研究は裕福な国にさらに偏るだろう。
- 確かに悪影響があるだろう。人々が結果を公表するのを控えるなど。
- 民間のAIラボがアカデミック研究に協力する可能性は非常に低い。彼らはインターネットを切り捨て、今では自社モデルへのアクセスを販売している。
新しいツールを見るのは嬉しいが、邪悪な影響があるような気がしている。
- scared_together
> 観察：ある種よりもはるかに能力が高く、それでも自らの未来に関する意思決定の制御を、より能力の低い種に明け渡す知的生命種の例は、ゼロである。
知的生命種の集合には、メンバーが一つしかないのか？ 理論化するための知的生命種の例が文字通り一つしかないなら、この観察を一般則として扱うことはできない。