OpenAI、最先端AIの開発をあえて減速させる可能性を検討か Sam Altmanが社内で言及
OpenAI considers slowing advanced AI development, Sam Altman tells employees
Bloombergの報道によると、OpenAIのCEO、Sam Altmanは今週の全社集会で、最先端AIの開発ペースを意図的に落とす可能性に言及した。複数のAIラボと足並みを揃えて減速する選択肢がある一方、すべての企業が同意するとは限らないとも述べたという。開発競争の只中にあるOpenAIが、あえて自ら速度を緩める可能性を示した点が注目される。
OpenAIは最先端の人工知能の開発を減速させることを検討しており、ChatGPTを手がける同社のCEO、Sam Altmanは他のAI企業にも同じことをしてほしいと考えている。
HNでの議論
104- reticulates
65本目のホットドッグを食べ終えた後、Joey ChestnutはNathan's Famous International Hot Dog Eating Contestの主催者に対し、ホットドッグが足りなくならないよう66本でやめると安心させた
- an0malous
「騙すことなんて何もないよ、もちろん騙してなんかいない。私は一人の人間として君と向き合っている。なぜ騙す必要がある？そんな…そんな理由はどこにもないだろう。」
https://xcancel.com/cocktailpeanut/status/209733229184439951...
- saalweachter
「進歩が鈍化しているのは完全に意図的なことだ」とAltmanは投資家たちを安心させた。
- hgoel
SamはAstraがAGIだとも言っていたし、彼は有名なほど正直だ。
これはつまり、彼らが公式にAIを提供する側から、Navier-Stokes騒動のように、AIを使って顧客と競合する側へと切り替えると言っているに過ぎない。
- naveen99
長期的なタイムラインはどうなっている？ 今は10兆パラメータ。10年で100兆パラメータ？ 100年で1京パラメータ？
エッジはパラメータの増加を止めるのか？ それとも、10年後、100年後に世界の投資の何パーセントがトレーニングに使われ、世界の運用予算の何パーセントが推論に使われるのか？
- int32_64
中国のモデルが、一時停止したAnthropicとOpenAIを全ベンチマークで上回るものが登場したとき、彼らの評価額はどこまで下がるだろうか？
- YesBox
<AI研究者ではない――ただ考えを声に出しているだけ>
おそらく『ゴールポスト』を動かすのが難しくなってきているのかもしれない？
- LLMをテキストで訓練 → おお、AIが文章を書ける！
- LLMをコードで訓練 → おお、AIがコードを書ける！
- LLMを画像で訓練 → おお、AIが画像を生成できる！
- LLMを動画で訓練 → おお、AIが動画を生成できる！
- LLMを数学で訓練 → 10万人の研究者/科学者/数学者に無料アクセスを提供 → Leanにリソースを投入 → おお、AIが数学の問題を解ける！
『ゴールポスト』と言うのはよくある議論だからだが、考慮されていないように思える視点は、LLMがラベリングと人間のレビューによって微調整されながら、異なる領域で同じことを繰り返し行っているだけだということだ。
創発的行動の議論は別の考慮事項だが、私はAIが（ハーネスのように）動作を導く単語のリストを与えられる――その逆ではなく――姿を想像できるし、難しい問題は単語/ハーネスに関連するすべての連想を絞り込み、フィルタリングして適切に整合させることだ。
そして、議論されている再帰的ループが、予測が信じられないほど困難（不可能）な行動を生み出すのかもしれない？ もしAIが自身のハーネスを変更できたら、それはAGIなのか？ もし高次元空間で何が起こっているかを完全に理解し、任意の入力トークンの組み合わせの出力を予測できたら、それはAGIではないのか？
あるいは、ASIを含む未来について心配するのをやめるために、自分にそう言い聞かせているだけかもしれない(:
- copperx
これはsamaから得られる失敗の認めに最も近いものだ。