Stability AI創業者エマド・モスタク氏：「今後数年でインターネットはオフラインになると想定すべき」

「Hugging Faceが自分たちを守った方法は、オープンソースの中国モデルGLMを使うことでした。なぜなら、彼らは相手側の高水準のサイバーセキュリティモデルにアクセスできなかったからです。それらは危険すぎるのです。」

これは実際に起こったことではありません。HuggingFaceは脆弱性を通常の方法で修正し、その後、フォレンジック分析の一部にGLMを使用しました。HFがGLMの部分を宣伝するのは彼らの利益になります。なぜなら、それは状況における彼らの主体性と、彼らが配布するオープンソースモデルを強調するからです。しかし、GLMは（有用な）事後分析の一部であり、防御の一部ではありませんでした。

私は75歳の人間の配管工（ベトナムで初日に敵を狙撃した人物）が、幅3インチの根太の上にひざまずき、その根太に89度の角度で直径4インチの穴を開けるのを見ました。そんなことをすべてやってのけるロボットはどこにいるのでしょうか？

この記事の他の終末論的ながらくたの中で、私は仕事の置き換えに関するレトリックが最も不快だと思います。それは常に、労働の現実からかけ離れた人々、つまり「仕事」が本質的にアイデアや意見を持つことでしかなかった人々によるものです。

インターネットがオフラインになる理由は、さまざまな政治的ブロックがそれを分割する場合を除いて、私には見当たりません。つまり、中国、ロシア、EUがそれぞれ独自のネットワークを持つということですか？ええ、そうかもしれません。超AIがインターネットを核攻撃する：いいえ。

実際、AIを使えば使うほど（昨日、AI開発ボックスでClaudeにsudoを渡しました）、それはかなり優秀で、確かに疲れを知らないシステム管理者だと思います。人々がAIを文書化されていないハードウェアインターフェースに接続し、それから動作するセットアップを得ることで何をしているかを見ると、インターネットはうまくいくでしょう。

この記事全体は、さまざまなAIへの恐怖を、実際に起こっていることにあまり基づかずに寄せ集めたものです。おそらく要約は、言われたことを正しく伝えていないのでしょう。

「主権とは、あなたに対して行使される力に抵抗する能力である」というのは、かなり説得力のある定義です。LLMが既存のプロセスがパッチを適用するよりも速くカスタムエクスプロイトを開発するにつれて、その力がどのような形を取るかを考えてみると、現在のセキュリティのベストプラクティスは、まったく役に立たないか、あるいはそれ自体が積極的なリスクになる可能性があるように思えます。

私たちの責任ある開示、CVE情報サイクル、パッチの頻度、多層防御などのエコシステムは、悪質なゼロデイが比較的少なく、そのコストがかなり高い世界に合わせて調整されています。脅威への対処方法を進化させることはできますが、私たちのモデルは、これまでどのように行われてきたかについての最高の文献をすべて読んでいます。「優れたセキュリティモデル」にアクセスできない小さな人々のためのギャップがあると思います。そのギャップが対処されない限り、弱体化されたクローズドモデルとオープンモデルは適応に失敗する可能性が高いです。