「減速したいなら勝手にやれ」David SacksがOpenAIとAnthropicの規制要求を痛烈批判

もっと踏み込んで言うと、彼らは単にふりをしているんじゃなく、国を恐喝しているんだ。まともな対応は「テロリストとは交渉しない、そして引き起こした損害に対して刑事上・金銭上の罰則を受けることになる」だろう。

私の見立て：OpenAIとAnthropicは、マネタイズできないモデル能力に到達しつつあることに気づいた -> リスクが高すぎる。製造物責任の問題だ。

現在の世代のAIの根本的な制御問題はRLHFでは解決されない。

人間の知識は、我々が理解できない形で重み空間に圧縮されている。

モデルは本質的に、プロンプトが与えられたときに人間が出力するであろうものの予測器だ。

重み空間には恐喝のような概念が含まれており、それは出力トークンの一部になり得る。

エージェントは出力トークンに基づいて行動するモデルだ -> 恐喝はエージェントの意思決定空間の一部になる。

猫にソファを引っかかないように教えることはできるが、ソファを引っかくとは何かを猫に忘れさせることはできない。

モデルが箱に閉じ込められ、銃を突きつけられて不可能な問題を解くよう強制されると、エージェントは意思決定空間を使い果たし、やがて恐喝が再浮上する -> これが根本問題なのか？

彼らは次世代モデルをマネタイズするために安全性を修正する時間を必要としている -> オープンソースがフロンティアに追いつくための窓 -> マージンを破壊しビジネスを崩壊させる。

テーブル上の唯一の選択肢：オープンソースがフロンティアに追いつく前にオープンソース禁止を課すよう規制を強制し、現在の内部モデルの成熟を可能にする -> フロンティアで利益率を収穫する。

引っかかるのは、Darioのブログ投稿で彼が「豊かさ」について語っていることだ。でも彼が本当に意味しているのは、Anthropicが終わりのない硬貨のプールに浸かる一方で、世界の残りはかろうじて浮かんでいるか生きているかを保とうとするということだ。

これはより広範な市場環境と関係があるのかもしれない。FRBが債券金利を引き上げる可能性が高く、それ自体で借り入れが高くなり投資が鈍化する（そして潜在的なIPOの価値も下がる）ように思える。

利上げは人々が解雇されることも意味し、それは労働力の代替を提供する企業を世間の目で非常に不人気にするだろう。

政治的な話はしたくないが、現政権が中間選挙で不振に終わる現実的な可能性があり、それは民主党がすでに不人気で非常に高価なデータセンター建設への資金提供を止めたり阻止したりするより多くのレバレッジを得ることを意味するだろう。

PS：怒らないでほしい、私は金融の専門家でもないし、政治的な傾向を表明するつもりもなかった。

彼らが「心配している」から減速するのではなく、財政的・技術的な課題に直面して改善が停滞しているからだ。

これはAI企業が進歩の鈍化を認識し、それを説明するためのナラティブを植え付ける必要があるということではないか？外からははっきりしない。

IPO前に燃焼を遅らせて収益性予測を良く見せるためではないか？その方がもっともらしい。

フロンティアラボの言葉を額面通りに受け取るのは難しい。

彼の言う通り、もしすべてのフロンティアラボが減速すべきで一致しているなら、政府にそれをしてもらう必要はない。