AnthropicのDario Amodeiに問う：本気でAIを遅らせたいなら、モデルの重みを公開せよ
An open letter to Dario: if you mean it, open the weights
Jacob GoldがDario Amodeiに宛てた公開書簡。Anthropicが提唱する第三者評価機関の組み込みや計算閾値などの規制は、結局は規制の虜囚化を招き、既存のフロンティア企業の地位を守るだけだと指摘。代わりに「企業が公開するAIモデルはすべてオープンウェイトでリリースする」という法律を提唱する。これなら評価額の前提が崩れ、将来の学習資金が減り、すべてのラボの進歩を同時に遅らせることができる。Dario自身の信念とPublic Benefit Corporationとしての使命に訴えかける。
企業が公開するAIモデルはすべて、オープンウェイトとしてリリースしなければならない。
HNでの議論
98- Aurornis
これは支離滅裂だ。主張はこういうことらしい：重みを公開すればフロンティアラボの資金調達が鈍り、資金が減り、AIの進歩が遅くなる、と。これは世界中のすべてのラボがこのように自己破壊することに同意し、仕事を続ける新しいラボが一切立ち上がらないことを前提にしている。
いや、本当に：
> ご存じのとおり、フロンティアモデル開発の資金調達は、重みがプロプライエタリであり続けるという前提のバリュエーションに依存している。その前提を変えることで、将来のトレーニング実行に使える資金を減らし、規制当局が何かを決めることなく、すべてのラボの進歩を一度に遅らせることができる。
これはそもそも論理的に成り立たない。世界中のすべてのラボが自らのバリュエーションを自己破壊し、競争をやめることに同意することを前提としている。それはDarioが求めているどんなことよりもはるかに不可能な要求だ。
さらに、新しいラボが立ち上がり、オープンウェイトを使って、古いラボがやめたまさにその地点から作業を続ける可能性も無視している。
見出しに興奮しすぎて、自分の主張が筋が通っているか考える時間を取らなかった誰かの戯言を読んだだけのような気分だ。
- tristanj
著者はこれについてまったく理性的な思考をしていない。もしAnthropicが、公開アクセス可能なあらゆるモデルの重みを公開することを法的に義務付けられたら、論理的な対応は単に公開モデルの提供をやめることだろう。Anthropicの収益の大半はそもそもエンタープライズ契約から来ている。公開モデルの提供や、自社モデルへの公開アクセスの提供は副次的な事業にすぎない。いつでも切り捨てられる。自社モデルへの（補助金付き価格での）公開アクセスは、彼らに多大な間接的害と金銭的コストをもたらしてきたので、アクセス提供をやめる十分な正当性がある。
Anthropicはモデルを一般から隠しておくことにまったく抵抗がないことをすでに示している。Mythosは確か半年ほど前から存在しているが、公開リリースは一度もない。Anthropicに選ばれた一握りの者だけがアクセスできる。
公開モデルに透明性を強制すれば、これらのモデルへのアクセスの私有化が加速するだけだ。そんな世界には住みたくないだろう。
- jsnell
> 企業が一般に提供するAIモデルはすべて、オープンウェイトとして公開されなければならない。
この計画の明らかな結果は、フロンティアモデルが一般にまったくリリースされなくなることだろう。驚くほど悪い結果になる。一般がアクセスできるモデルは停滞し（資本もなければ、蒸留元となるフロンティアモデルのトークンへのアクセスもない）、一方で内部モデルはこれまでと同じペースで改善を続け、社内で使われ、やがて経済全体を食い尽くすだろう。
- throwaw12
アメリカのAIラボのこの3人の顔ぶれ、すなわちDario、Sam、Elonにはとても懐疑的だ。
彼らは他のみんなが追いつくのを止めようとしているのか、それともモデルをさらに改善する上で何らかの壁にぶつかっているのか？
しかし私の意見では、彼らは人類を助けようとしているわけではない。
- bryan0
Darioは次の点についてかなり明確かつ一貫している：
1. AIモデルの安全性が最も重要である。
2. オープンウェイトはモデルの安全性を低下させる。
したがって、この提案が好意的に受け入れられる可能性は低いように思われる。