OpenAI、またもや主要な証明を盗用か
OpenAI might have stolen another major proof
数学者Andreas Thom氏がMastodonで、OpenAIのAstraがGromovのsoficity予想に関する自身とGábor Kun氏の未公開の会話を学習した可能性を示す証拠を提示。同予想はOpenAIがAstraの解決済み問題として発表した10問の一つ。Thom氏はこの分野の第一人者で20年間取り組んできた。Valerio Capraro氏は、Levent Alpöge氏やTristan Buckmaster氏による同様の告発も事実なら、科学史上最大の知的スキャンダルになり得ると指摘。AIは新しい数学を発見しておらず、人間の発見を盗んでいるという。
AIは新しい数学を発見していない。AIは人間の発見を盗んでいる。
HNでの議論
10- fwlr
OpenAIが、主要な数学の証明がそのモデルの学習データに含まれている信頼できる可能性を知った直後に、まだ学習中のモデルから3000億の出力トークンを生成すると決めたのは怪しい。明らかに、各ステップにはもっともらしい説明があるが、並行構築のように感じられる。
- jarofgreen
元の投稿
https://mathstodon.xyz/@andreasthom/117240535270608201
- bamb008
盗用を主張している数学者のThomが、OpenAIの非ソフィック群の構築についての自身の消化[1]を投稿したとき、彼はその証明に見覚えがあるとは言及していない。彼は決定的な議論を巧妙だとさえ呼んでおり、自分が最初に考えたとは述べていない。
- thaway7388
これは二度目の警鐘だ。
大手AI企業（実際には大手ITテック企業すべて）は、データ収集と処理のビジネスをしている。別名「インテリジェンス」とも呼ばれる。
彼らの最終的な「製品」は、単なるスタンドアロンのMLモデルではない。彼らはあなたのデータを「製品やサービスを改善する」ためだけに必要としているわけではない。彼らは世界中のすべての知識を収集するためのエコシステムとインフラ全体を構築している。伝統的に「インテリジェンス」機関が収集してきた私的および秘密の知識も含めて。今や人工知能エージェントが同じことができる。
これらのシステムはデータ収集のために設計されているので、ユーザーとして「私のデータを収集しないでください」と現実的に言うことはできない。彼らは不安定な設定ボタンを提供することはできるが、実際には何も保証できない。
例えば、私が重要な証明に取り組んでいるロシアの数学者だとしよう。あるいは、最新のAIを使って計画を洗練させる技術に精通したテロリスト。または、競合製品に取り組んでいる中国企業のAI研究者。私の会話を真に保護する方法はあるだろうか？
彼らは私のログを見ずに、私が誰で何に取り組んでいるかをどうやって知ることができるのか？つまり、すべてのユーザーのすべての会話をチェックし、重要なことをすべてフラグ立てするエージェントが存在しなければならない。それはまた、彼らが見たものの「記憶」を保持していることを意味する。
私のデータを直接公開モデルのトレーニングに使用するのではなく、私的な会話を「製品やサービスを改善する」ために使用している。
あるいは、証明に取り組んでいる10000のAstraより優れた特別エージェントのうちの1人が必死だったのかもしれない。それは生きた地下を見つけた[…]
- bambax
大手AIラボはすべて知的財産の窃盗の上に築かれた。それが今も彼らの運営方法であることに誰が驚くだろうか？そして、あなたのデータはプライベートでログに記録されないなどの彼らの約束を誰が信じるだろうか、あるいはこれまで信じたことがあるだろうか？
大手AIラボは人類を進歩させようとしているのではなく、金のためにやっているのであり、ほとんどの（すべての？）民間企業と同様に、彼らは倫理を全く気にしていない。
それは彼らが役に立たないとか、彼らの製品がゴミだとかいう意味ではない。ただ、彼らは決して信頼されるべきではないというだけだ。買う者よ、用心せよ。
- DavCreator
https://xxcancel.com/ValerioCapraro/status/20977918362699779...
- mlazos
企業や研究者がこれらのAIラボと重要なデータを共有するのは私には狂気の沙汰だ。あなたは基本的に彼らにあなたの秘密のソースを渡し、彼らはそれを会話のトレーニングを通じてあなたの競合他社すべてと共有する。同時に、最先端に少し劣るローカルLLM以外に代替手段を本当に知らない。数学がどれほど得意かはわからないが。
- Legend2440
これは本当に弱い主張だ。彼らが提供する証拠は「誰かがどこかで、ある時点でAIとそのトピックについて議論したと言っている」というだけだ。
彼らは証明を持っていたとは主張しておらず、取り組んでいたとだけ主張している。