OpenAIには、自社が発表した内容を理解できる数学者がいない
OpenAI have no mathematicians capable of understanding what they put out
Mastodonユーザーのtristanbuckmaster氏が、OpenAIの数学的な主張に疑問を投げかけた投稿。同社が発表する内容を理解できる数学者が社内にいないと指摘し、AI企業による数学的成果の発表の信頼性に一石を投じている。
OpenAIには、自社が発表した内容を理解できる数学者がいない。
HNでの議論
48- tetrisgm
問題は、最終的にAIが出す結果を理解できる人間がいなくなるということだ。それがこの技術の終着点だ。つまり、我々には追随できないスピードと品質で知識を生み出すことにある。
- oefrha
ゆるく関連する話だが、自分のプライバシー設定を確認したほうがいいかもしれない。
https://chatgpt.com/codex/cloud/settings/data#settings/DataC...
https://claude.ai/new#settings/data-privacy-controls
自分が喜んで「みんなのためにモデルを改善」していたことに今気づいた…
- tristanj
この投稿は古い。OpenAIは今日の早い時間に論文の参考文献をこっそり更新し、著者を数名追加した。
- japgolly
> 我々のhypodissipativeな結果（これは公開されていない）だが、私の理解では彼らのトレーニングデータの一部だ
公開されていないのなら、どうやって彼らのトレーニングデータの一部になったのか？ /困惑
- simianwords
なぜTristanは単に設定ページに行ってその機能をオフにしなかったのか、誰か説明してくれないか？特にLeventが彼と共同研究していて、Leventはトレーニングデータがどう使われるか、そしてそれによる影響を完全に理解しているのに？
それが見落としなら、それはそれでいいし、OpenAIが自ら彼を筆頭著者にすると申し出てもいい。実際そうした。しかし彼は、Anthropicの内部モデルにアクセスできたLeventも同様に扱われないことに腹を立てている。つまりこの人はこう考えている：
1. ああ、しまった、設定ページの同意のやつをオフにするのを忘れてた
2. それに、Anthropicの内部モデルにアクセスできる正真正銘のAnthropic社員と共同研究する
3. さらに、競合他社の社員を参加させたいからという理由で、筆頭著者になるというOpenAIの提案を断る
この思考回路が理解できない。