Simons Foundation、AnthropicとOpenAIと組み数学者をAI時代へ導く1500万ドル拠出

> パートナーシップのもと、Simons Foundation、Anthropic、OpenAIは合計1500万ドルの資金とリソースを拠出する。財団は資金を管理し、助成し、提案公募も含めて、研究者が最近のAI支援による成果を評価し、新しいツールを学び使用し、視点を共有し、AI利用の集合的基準を形成するのを支援するワークショップやイニシアチブを支援する。

財団は1994年に設立され、Wikipediaによれば「2022年には50億ドル以上の資産を持つ米国最大の慈善団体の一つ」であり、Jim SimonsがヘッジファンドのRenaissance Technologiesを設立した。

> > パートナーシップのもと、Simons Foundation、Anthropic、OpenAIは合計1500万ドルの資金とリソースを拠出する。

OAIとAntは、数学的発見を本質的に剥ぎ取って自分たちのモデルのPR勝利に変え、その過程で研究分野を偶発的に荒廃させたことで反発を受けた。それぞれ約500万ドルをPRのホワイトウォッシュ（一部はトークンクレジット）に投じるのは、自己奉仕的に見える。

Simons Foundationがこの瞬間を捉え、ラボに体面のイチジクの葉を提供したのは称賛に値する。助成提案への「はい」としては史上最速だったかもしれない。

数学のためのCERNのようなプロジェクトというアイデアは、最近提案されたときほとんど誰もが拒否した。もっと真剣に検討されるべきだった。

Navier-Stokesや定理の大量放出の衝撃の後、少し落ち着いてきた今、AI後の数学がどのようになるかというようなことが見え始めている。もちろん、能力が向上し続けるという仮定に条件付けられるべきだが、こんなものを想像してほしい——

膨大な計算資源（レンタルまたは所有）を持つ研究所で、フンボルト的な教育と研究の統一モデルに基づいて構築される。大物にとっての主な魅力は、先を越される恐れのない計算資源へのアクセスだろう。新しい形の帰属と協力が発展し、学生や博士課程の学生にとって将来のキャリアがどうなるかについてある程度の明確さが得られるだろう。

現在の数学大学部門の寄せ集めが、資源を統合することなくそれぞれ独自の道を危機を通って進んでいることが、移行をより困難にしている。物理学が散在するサイクロトロン（Niels Bohr研究所の地下室はサイクロトロンを設置するために掘り下げられた）から始まり、その後に大型ラボが続いた道を考えてみてほしい。その移行は物理学が内部から主導したため緩やかだったが、数学ではすべての大学部門が突然、同じモデルに従わず異なるインセンティブで動くラボに対して massive な計算資源の不利に直面している。

こんなに単純かもしれない——完全に t […]

1500万ドルはベイエリアの家5軒の平均価格だ！

無料のマーケティングを得る以外に、この取り組みで一体何をしようとしているのかわからない！

deepseekのようなモデルとのチャットでは、LLMは多くの基本的な数学で誤った主張をする。より高度なモデルは、特別な状況下で人間の仕事とLeanに導かれて定理を証明できるかもしれない。しかしRLと同様、100万回失敗するという力ずくのアプローチは、報酬が遠い場合には十分でないかもしれない。

数学では報酬は問題をより単純なケースに還元する分解を見つけることであり、多くの場合その報酬は非常に遠い。さらに、LLMは多くのケースを高速に処理できるかもしれないが、分解はしばしば人間から来て、モデルが証明の功績を取る。

この財団は、LLMに必要な分解を人間の創意によって生成して提供できる。しかし一度提供されれば、モデルはケースを実行して功績を得る。したがって、意図しない結果でなくても、LLMの功績が増え、人間の仕事と見通しは悪化する。

科学者がAI時代を乗り切るのを助けるための私の努力：

ChatGPTでは：設定 -> データコントロール -> 「みんなのためにモデルを改善する」をオフにする

Claudeでは：設定 -> プライバシー -> 「AIモデルの改善に協力する」をオフにする

彼らはあなたが作品を公開した後にスクレイピングできる。

つまり、数学者にモデルにプロンプトを与え続け、証明の明確化のためにフィードバックを提供し続けてもらい、それをすべて書き上げてジャーナルに発表し、AI使用を言及することを望んでいる。すると突然、スケーリング則によるスキルの「創発」によって、モデルが読みやすく理解可能な証明を生成するようになる。