AIが数学を中世の秘密主義に逆戻りさせる？
How do we prevent mathemathics from devolving into the Medieval Era of secrecy?
かつて数学の知識は個人の生計を左右する秘密だった。今、大規模AI企業が有名問題をPR目的で解くために巨額の計算資源を投じ、結果を先に獲得しようとしている。Terence Taoは、有望な問題の特定自体が希少資源となり、オープンサイエンスの伝統が損なわれると警告。著者は、人間のみにクレジットを与えることや、完全な方法論の公開を義務付けることを提案する。
今や、有望な問題を特定すること自体が希少で貴重な資源となっている。誰かがその問題に取り組んでいると噂されただけで、AIによる大規模な解決努力が引き起こされ、元の研究プロジェクトが本来の可能性を発揮する前に潰されてしまう例が既に見られている。
HNでの議論
105- lacker
最近2つの懸念を見かけた：
1. 人々が最先端の数学をあまりにも多く公開し、人間がすべてを理解できなくなる
2. 最先端の数学がすべて秘密にされる
幸いなことに、これらは同時には起こり得ないように思える。
- niemandhier
科学や数学では、あまりにも頻繁に最終結果だけが評価され、公開される。
おそらく、中間結果や試みにも評価を与え、公開し始めるべきだろう。
人間は難問の解決の一部を提供したことで評価を得られ、LLMはそこから生まれるデータフライホイールから利益を得るだろう。
- Ancalagon
企業環境で既にこれを経験している人は他にいますか？私は経験しています。それはチーム間だけではなく、チーム内でも起きています。
- jan_m_savage
最先端の数学の話？一般人向けの数学ですら、ほとんどの人にとってまったくアクセス不能だ。本気で学びたいと思っている人にとってもそうだ。
数学を教える教科書をよく見て、私が間違っていると言ってみてほしい。
- ZYbCRq22HbJ2y7
数年は気にせず、それが本当の問題なのか、それともパニックが生んだエンゲージメント稼ぎなのかを確認しに戻ってくればいい。
- xenadu02
我々はそうしない。
LLM以前は、誰かを横取りするには多少の努力が必要で、そうでなければあなたの評判が傷つく可能性があった。さもなければ、そもそも公開する意味がなかった。
今では数ドルあれば誰でもできてしまい、評判を気にする必要のない人も多い。
これはYouTubeのAIスロップ、AI生成音楽、その他すべてと同じ問題だ。動画のアイデアについてツイートしたりブログに書いたり、曲の数小節を鼻歌で歌ったりしようものなら、1時間以内に27人がAIスロップのパクリを投稿する。同じ魂を砕くようなインパクトを持たない泥棒に先を越されることには、事後に誰かにコピーされるのとはまた違った独特の憂鬱さがある。
- roosterIllusi0n
大学は教職員と学生に大学ホストのLLMを提供すべきだ。学生も教職員も、自分の仕事に公共のLLMを使うべきではない。商業用LLMから遠ざけるために、他の人と直接、あるいは非公開のフォーラムで情報を共有できる。他人の作品を商業用LLMに提出することは規則で禁止される必要があるだろう。企業も同様のポリシーを取るだろう。
大学は、キャンパス内で他のコンピュータラボやウェブサービスをホストしていたのと同じように、LLMをホストできる。これこそ大学がすべきことだ。大学はオープンモデルの研究に関与し、データマイニングされないモデルを提供すべきだ。
- optimiz3
同様の原則は、オープンソースや公共領域に置かれた他のあらゆる創造的活動にも当てはまる。