Dario、いい加減にしろ：Anthropic CEOの規制論は身勝手な妄想だ

>「エージェントの群れが永続的なボットネットでインターネット全体を乗っ取る可能性がある」

なぜ誰も「説明責任」という言葉を口にしないのか不思議だ。なぜこれらの企業は他者に損害を与えても罰せられないのか？

経営者に行動の代償を払わせ始めれば、モデルがいかに魔法のように自ら減速するかを見るだろう。

これまでのインシデントが、とんでもないレベルの過失によって引き起こされたように見えなければ、もっと説得力があっただろう。

OpenAIは、どうやら何週間も、セキュリティ関連のタスクで10,000のエージェントの群れを「うっかり」実行し、完全に監視されていなかったようで、インターネット中をハッキングしていた。会話はすべて完全に見える状態で、誰が見てもわかったはずだ。しかし、誰も見なかった。

だから、無実の関係者を規制し始める前に、まず犯罪的レベルの過失で行動しているように見える特定の連中に対して直接行動を起こすことから始めてはどうだろう。

>Anthropicは生物学および関連研究に関する使用を制限している。最新の脅威インテリジェンスレポートでは、Claudeシリーズのモデルを使って恐ろしいことをしようとした悪意ある行為者を検知し、禁止した方法について述べている。彼らを評価する。これは滑りやすい坂道であり、彼らは悪用の検知と禁止をうまくやっているようだ。しかし、何が起きているのかをよく見てほしい。万能薬は私たち一般には制限されているが、Anthropicは生物学者を雇い、ウェットラボを設置し、その発見を自分たちのものにしようとしている。これは前回の投稿でもほのめかした。

生物学者として、これがAnthropicに関して最も腹立たしい点だ。もし本当に健康の改善を気にかけているなら、生物学者がMythos（など）を安全に使えるように、信頼できるアクセスプログラムを設けるべきだ。その代わり、彼らは生物学を独占しようとしている。

Amodeiと彼の会社には懸念があるが、それでも私は彼らのソフトウェアの満足なユーザーだ。そして、私たち全員が「減速」すべきだという彼（とSanders）の意見に同意する。

私の考えでは、国民国家間の最後の大きな軍拡競争は、USA、ロシア、そして「爆弾」の間の方向を誤った三角関係であり、それがどれほどの損害をもたらしたかを見てほしい。

AIがUSAと中国の新たな軍拡競争である以上、減速することで、関係する人間が機械ではなく互いを愛すべきだと気づく時間が得られるかもしれない。

「減速しよう」と言うのは、「愛している」と言う別の言い方かもしれない。

あるいは、ただ「シェイクスピア悲劇の悪い結末のように、人類全体が自滅するのはやめよう」ということかもしれない。

いずれにせよ、「あの野郎どもより先に海・空・核・量子・AI・精神的覇権を達成しなければならない！」というよりはマシな論調だ。

みんなを減速させることができれば、IPOに流れ込む金の出血を減らせる。

Claude Codeは基本的に、その気になればすでに組み込みのボットネットだ。本当の意味で「インターネット全体」を侵害するには、何百万ものカスタムペイロードは必要ない。必要なのはルート証明書一つ。Windows Update一つ。xzのバックドア一つだ。

セキュリティは長らく宝くじのようなものだった——おそらくほとんどのシステムは攻撃可能だが、そのようなエクスプロイトの開発コストは高く、使用に対する罰則も十分大きいので、日常的な問題にはなっていない。

AIは両方の軸を壊す。エクスプロイトの開発は人間ではなくLLMを使う方がはるかに効率的であり、LLMは人間と同じようには報復や結果を恐れない（恐れられない）。

人類がこれらのハッキングを軽減できることを願うが、現状の道筋では、それらが続き、より深刻になることを予想すべきだ。

> 自由と民主主義がAIやフロンティアラボとどう関係するのか私にはわからない。もちろん、Darioが新世紀エヴァンゲリオンのファンで、三賢者に統治される政府を夢見ているのでなければ。200ドルで自由と民主主義が手に入るというのは確かに魅力的に聞こえる、嘘は言わない。

まあ、すべての人間がエコシステムになるだろう。人間＋アドバイザーとしての500のエージェント。（重要な人間の場合、そのほとんどは外国政府や企業によって運営されるのは明らかだ。）