AnthropicのDario Amodeiが提言：AIの能力向上を意図的に減速せよ

フロンティアのペースを落とすというアイデアは好きだが、規制について話すなら、別の種類の規制の方がもっと好きだ。つまり、AIの進歩が経済を破壊しないように、企業環境でのAIの使用を制限することだ。

「ペースを落とす」ことで広範な合意を得られる可能性はかなり低く、つまりこうしたことはすべて実現せず、競争は続くだろう。しかし、たとえフロンティアのペースが落ちるというありそうにないことが起きても、それがするのは経済的置換を遅らせるだけで、しかもほんの少ししか遅らせない。

もしAIの社会的に有益な目標が医学と科学の根本的な進歩をもたらすことなら、AIの使用をそれらの目的に限定すべきだ。

グラフィックデザイナーから会計士、ソフトウェア開発者まで、あらゆる仕事を置き換えるためにAIを使うのはやめよう。（少なくとも）大企業がこのように人間の労働を置き換えるためにAIを使えないように法的制限を設けよう。

AIの宣伝文句はいつも、みんなの生活水準が上がるというものだが、実際に見られる行動はそれを真っ向から下げることを目指している。ラボは口先だけでなく実際に資金を出して、すべての人間の労働を置き換えようとするのをやめ、自分たちが気にかけていると主張する事柄に実際に集中したらどうだろう？そしてそれを強制する法律を導入したらどうだろう？

これはフロンティアのペースを落とすよりも実現する可能性は低いだろうが、ほとんどの人が実際に望む種類のペース調整だ。

Darioが提案するアプローチは、資本が技術の進歩と生産手段を支配しようとする古典的な例だ。人類史上初めて、労働者階級の誰もが、専門家の科学者・医師・弁護士・エンジニアのチームを直接雇う余裕がほぼ持てるようになった。

超知能（自分より賢い多くの頭脳を自分に報告させる能力）は常に富裕層と権力者に利用可能だった。彼らはそれを使って核兵器を発明し、気候変動を引き起こし、戦争を機械化し、グローバルサウスを略奪した。

今、同じツールがすべての人に利用可能になろうとしているので、資本はパニックに陥り、柵を設け始めている。彼らは自分たちが制御できないと知っている革命にブレーキをかけたいのだ。彼らは超知能で何をしたかを見ており、（おそらく不合理ではないが）大衆が同じ力で何をするかを恐れている。

強く反対する。我々の選択肢はこうだ：

A) 世界がこれまでに知った中で最も強力な経済ツール（および／または武器）の一つであるものの開発を遅らせるために、すべての企業、国家、人々が協力して結束するという国家的・国際的協力に、我々の集合的善を賭ける。または

B) 我々のシステムは今すぐ超ハッカーに狙われると想定し、その現実に対処するための適切な措置を取る。

もし私が自分のコミュニティの幸福をこれらの可能性のどちらかに賭けなければならないなら、どちらに賭けるかはわかっている。

私もフロンティアのペースを落とし、開発を遅らせて、みんなが立ち止まって息をつく機会を得るというアイデアは好きだ。しかし、AIを規制することがその方法だとは思わない。私はAIモデルの実行に使われるリソースを制約することで問題に取り組むだろう。その「最も簡単な」方法は、データセンターの運用コストを上げることだ。データセンターのコストを上げる最も簡単な二つの場所は、電気と水道の料金だ。

この二つの料金がコストを上げるのに最適な場所だと思うのは、州ごとや国ごとに段階的に引き上げることができるからだ。規制アプローチの主な問題は、それが「ビッグバン」的な事後ボード方式であることだ。規制が定義され展開されるまで何も起こらず、企業は実施を遅らせることにかけては専門家だ。

確かに、料金を上げることは州や市町村レベルで多くの個別の規制領域に触れることになるが、太陽光発電や風力発電を導入するように、段階的に行うことができる。

AI嫌悪が一般的な使用と収益を制限し、それによって自然に減速する一方で、ニッチな分野（例えばAlphaFold）は残るのではないだろうか？

AI嫌悪の起源：

* 「上司はAIを使えと言うが、彼は私の仕事もAIの仕組みも理解していない」

* 「AIは私たち全員を殺す」

* 「AIは私の仕事（または私がAIをうまく使えば同僚の仕事）を奪う」

* AIラボのせいで電気代が払えない。

* ...

AIの利点に対する複雑な感情も参照（UberのCOOによれば「正当化するのが難しい」）。

これほど多くの憎悪を生み出した技術を思い出せないし、その提示のされ方を考えれば正当な理由がある。AI嫌悪、あるいは合理的な懐疑（不合理なプロパガンダに対して）は、もしかしたら資金を減らし、本当の問題解決のための特化型AIを維持するかもしれないと思う（1日に大量のコード行を生成することは、私が思うにその一つではない）。

いつになったら我々はAnthropicのリーダーシップと誠実に付き合うのをやめ、彼らの実績を認めるのか：

- オープンウェイトなし

- ClaudeをAI研究に使えない

- 他人のIPで訓練してそれを売り返す

- 規制捕獲の試みが8回以上

- あまりに支配的で、米国政府にブラックリストに載せられた唯一の米国企業

これは有効利他主義／合理主義が暴走したものではなく、倫理を装った独占的・反競争的なビジネス慣行にすぎず、彼らのセンセーショナリズムを見過ごして反トラスト法で叩くまで彼らはこれからも逃げ続けるだろう。

Altmanは多くの憎悪を受けているが、OpenAIはずっと優れた管理者だった（少なくとも上記の5点のうち3点では）Anthropicより！

「中国との相互減速の合意をしなければならない」と同時に「中国より常に優位に立つことを確実にしなければならない」という二重の目標がどう機能するのか私にはわからない。

中国政府がそのような合意についての交渉で最初に要求するのは、チップと蒸留の禁止措置の解除だろうと想像する。

> これらの措置が中国との協力を難しくすると信じる人もいるかもしれないが、私は逆だと思う。これらの措置は民主主義国のレバレッジを高め、将来の合意をより可能性の高いものにする。

誰でも好きなように信じられるが、私にはその場合の「レバレッジ」とはまさにそれらの措置を解除する能力のことのように思える。両方は持てない。それらをレバレッジとして使いながら同時に有効にしておくことはできない。

> 技術を構築しないことは人類から利益を奪うか、単にAIを権威主義国の手に委ねることになる

誰かこれを説明してくれないか？フロンティアラボの狂ったようなペースがなければ、オープンウェイトモデルはどれだけ進んでいただろうか？

非米国市民として、彼が言及している権威主義国とはどこのことか？私の知る限り、フロンティアモデルを使って民間人への空爆を行い、外国政府の暗殺を組織しているのは米国だけだ。

この新しい「フロンティアのペース調整」に似た政策が以前にもあった。それは「責任あるスケーリング政策」と呼ばれていた。

その考えは、Anthropicがある危険レベルでスケーリングを一時停止し、安全に続行できるまで待つというものだった。

創業者たちはこれをAnthropicの「憲法」と呼んだ。彼らは監視のために第三者を招き入れることまで検討した。[https://www.youtube.com/watch?v=om2lIWXLLN4]

Anthropicはその約束を破棄し、代わりにスケーリングを続けることを選んだ。

自らの誠実さを声高に叫んでいた研究者たちは、折れて風見鶏のように風に従ってくるりと向きを変えた。事実が物語に曲げられるのは明らかだった。ここでEvan Hubingerが堂々と嘘をついている：[https://www.lesswrong.com/posts/HzKuzrKfaDJvQqmjh/responsibl...]

ありのままに言おう。

- Anthropicは新たな泥棒政治であり、全人類の認識論的コモンズを囲い込み独占する責任がある。

- Anthropicはオープンモデルの禁止を推進する原動力だ。彼らはモデル所有者とお気に入りの取り巻きからなる悪意あるエリートの間に権力を集中させるだろう。このエリートはおそらく残りの人類を抑圧する。

- Anthropicの指導者たちはプライドと傲慢に突き動かされている。彼らは自らの傲慢さに盲目だ。Anthropicは社会に計り知れない害をもたらす方向に突き進んでいるが、進路を変えようとしない。

Anthropicが高レベルで言うことは何も信用できない。これを書いている今も、Anthropicはスケーリングを続けている。