「規制＝権力集中」は誤り、とAnthropic CEOが反論
On A.I. regulation and messaging
AnthropicのCEOであるDario Amodei氏が、AI規制をめぐる議論にXで応じ、「規制＝規制の虜＝権力集中」というシリコンバレーの通説を「誤った二択」と批判。規制は企業権力を制限し、市民を守る役割もあり、客観的で公正な制度的プロセスは権力を分散させると主張。同社の提案がフロンティア企業に不利で、小規模な競合に有利になるよう設計していると述べ、オープンウェイトモデルだけでは不十分で、適切なルールがリスク軽減と権力分散を両立できると論じた。また、自身のメッセージが過度にネガティブだという批判には、リスクと利益を同等に扱ってきたと反論した。
規制＝規制の虜＝権力集中という見方は、客観的で公正な制度的プロセスが持つ権力分散の力を過小評価している。
- kilpikaarna
> 根本的には信頼の危機だと思います。一般の人々は企業、政府、テック業界を信頼しておらず、私たちが何か新しい方法で彼らを騙そうとしているのではないかと常に疑っていると思います。
[...]
> ポジティブなスピンをつけた派手なマーケティングキャンペーン（Anthropicがやるべきだと主張する人もいます）が信頼を取り戻す方法だとは思いません。この時点で、AIが癌を治すと言うのは、むしろ陳腐であり、感動的ではなく、ほとんどの人が欺瞞的だと思っています。実際に効果があるのは、実際に癌を治すことです。Anthropicを含むAI企業に対する批判で、はるかに正確なのは、世界に利益をもたらすという大きな約束をまだ果たしていないということだと思います。それは完全に私たちの責任であり、メッセージやマーケティングについてのあれこれではなく、そういう批判をすべきだと思います。
> しかし、私たちはこれを改善するために最善を尽くしています。Anthropicは生物学と医学への取り組みを急速に強化しており、今後数年間で素晴らしい結果を出し、数ヶ月以内に初期の兆しが見られることを期待しています。実際に何か現実のことを成し遂げたとき、全世界ができるだけ大きな声でそれを知ることになるでしょう。約束します。
結局、「信頼を取り戻す」というのは、雇用、電気代、株式市場のバブル、知的財産、詐欺、サイバーセキュリティ、環境問題などについて人々が抱く実際の懸念とは何の関係もないことが判明しました。むしろ、私たちはそれらをさらに強化し、奇跡（「癌を治す」など）を起こすつもりです。
- mhaberl
> しかし、私たちはこれを改善するために最善を尽くしています。Anthropicは生物学と医学への取り組みを急速に強化しており、今後数年間で素晴らしい結果を出し、数ヶ月以内に初期の兆しが見られることを期待しています。実際に何か現実のことを成し遂げたとき、全世界ができるだけ大きな声でそれを知ることになるでしょう。約束します。
1. 彼は、癌を治したらできるだけ大きな声で自慢すると約束している。立派な男だ！実際、彼を100%信頼している。
2. 「素晴らしい結果を期待しています」→ 誰もが素晴らしい結果を期待しているのではないか？
3. 「数ヶ月以内に初期の兆し」→ それはIPOの数日前に予定されているのか？
この男は政治家よりも言葉が少ない。
- mindwok
ダリオは本当に善意のある賢い人物だと思いますが、彼とAnthropicには大きなPR問題があり、自分たちがどう見られているかをまったく理解していないと思います。
特にAnthropicは、オーウェル的な、見下すようなレトリックのベールを発展させてきました。表面的にはあなたを気遣っているように見えますが、その下では、一般人のあなたを信頼していないことを示す行動を取っています。あの安全性レトリック、オープンウェイトモデルを決してサポートしないこと、Claude Codeの外部でのハーネスのロックダウンなど。
Anthropic、公共の利益を気にしているなら、人々をエンパワーする何かをしてください。OSSモデルをリリースしてください。Claude Codeをオープンソース化してください。推論ツールなどをオープンソース化してください。ただ、言葉以外の何かを人々に与えてください。
- pu_pe
> 全体として、私の見解では、AIは構造的に権力を集中させる傾向のあるテクノロジーであり、その理由は規制とは無関係です（スケーリング則の極端な影響に起因します）。オープンウェイトはこれにある程度役立ちますが、十分な解決策にはほど遠いです。なぜなら、それは単に集中を最も多くの計算リソースとチップを持つ者（おおよそフロンティアラボとハードウェアプロバイダー）に移すだけだからです。
これは実際に良い指摘です。オープンモデルはどんどん良くなっており、その一部は今やコンシューマーハードウェアでも使えるかもしれません。しかし、AIの性能が依然として計算能力と相関しているなら、間違いなく権力はチップを所有する人々に残るでしょう。
- throwaway_7274
言いたいのは、このサイトのこのコメント欄は数年前には考えられなかったということです。すごいことです。すべてのエンジニアが階級意識を発達させています。どうしてそうなったのでしょうか？
とにかく、見ていて楽しいですが、正気を保つことを忘れないでください。振り子のダイナミクスに注意してください。
- GPerson
私の投稿が伝わっていないかもしれませんが、どうやら多くの病気は、LLMベースのAIの発明とは関係なく、治る軌道にあったようです。このテクノロジーについて気になるのは、すべての努力をAIのせいにしやすいことです。これはエゴを傷つけるだけでなく、AIがどれだけ効果的か、それを使う人々がどれだけ効果的かを推論するのを難しくします。
第二に、ダリオが実際に書いたことを見ると、癌のような大きな病気の治療法は、科学者が10倍速く働き、ノーベル賞級のパラダイムシフトを10倍速く起こすことで、うまくいけば得られるだろうというのが彼の見解です。だから、Anthropicが「癌を治すつもりだ」と言うのは、私にはあまり意味がありません。彼の元々のビジョンによれば、癌を治すブレークスルーを生み出すのは、現在AIを独立して使っているさまざまなグループのように見えます。
- glimshe
ダリオが言ったことの一つで、別の角度から考えることが重要なのは、AIの大きな成果はどこにあるのかということです。もしAIが私たちを10倍生産的にするなら、普及から3年で、AIなしでは30年かかったであろう製品を作るのに十分だったはずです。
私はAI支持者ですが、その疑問は、AIは単に「非常に便利」であり、人類にとって歴史的なゲームチェンジャーではないと感じさせます。
- xscott
中国や他の国々がその規制に拘束されていないことに言及しない米国の規制に関する議論は、強く疑問視されるべきです。あなたは一体、誰があなたが嫌うことをするのを止めるのですか？
法律を守る米国市民はそれらを実行できなくなりますが、あなたは米国市民がサムやダリオに金を払うことを確実にしただけで、何も解決していません。
- kingstnap
> 全体として、私の見解では、AIは構造的に権力を集中させる傾向のあるテクノロジーです
> オープンウェイトはこれにある程度役立ちますが、十分な解決策にはほど遠いです
だからこそ、Anthropicはオープンウェイトモデルに何も貢献せず、積極的に障害や規制を推進しています。大衆に希望を与えることはできません。
お金のある人だけがFableに触れることができます。もちろん、AIモデル開発のような危険なことに使おうとする場合に備えて、強力なガードレールがあります。さらに、誰かがこっそりやろうとしている場合に備えて、提出されたすべてのデータを保持します。
- ben8bit
1年前は彼らのブランドポジションが本当に好きでした。しかし、ボリスがステージで「Claudeの脳」について話したり、もう一人の創業者が法王の前でAIが意識を持っているふりをしたりして、彼らはテック企業というより宗教のように見えてきました（明らかなモデルの問題はさておき）。