AIの終末警告にSilicon Valleyは冷ややか、Anthropic離脱研究者の訴え

たぶん彼らは、その素晴らしい超AIを使って、無視されている現実的で差し迫った脅威に対処できるだろう。例えば、核による絶滅、第二次世界大戦後に確立された武力による領土獲得の禁止の喪失、化石炭素がすべて地面から掘り出されて環境に放出される確実性、はしかの再流行、次のパンデミックへの備えの貧弱さ、などなど…

私はAll Inポッドキャストのホストに同意する。しばしば同意しないこともあるが。これは、オープンソースモデルが競争できない堀を作ること、つまり規制についてだ。

それは純粋に、少数のプロバイダーだけが競争できるようにすることを確実にしている。

未来はエッジとオープンソースモデルだ。

AppleもGoogleもこの方向に取り組んでいる。

クラウドAIは、エッジが能力を発揮できないときのオフロード用になるだろう。

ほとんどの場合、エッジで十分だ。

さらに、推論コストは下がり続けている。

垂直統合はAI業界の最大の課題かもしれない。電力生成、トレーニング、推論、ハーネス、そしてエンタープライズとコンシューマーのエンドユーザーを管理しようとするのは、多くの可動部分がある。

これがCEOたちによる規制を引き起こすための悪質な陰謀だとか、壁にぶつかったことを隠すためだとか、モデルをより有能に見せるためだとか、何であれ信じているすべての人へ：

AIリスクの議論は20〜30年前の哲学的な議論であり、現在の企業情勢とは何の関係もない。それはこの問題を本当に気にかけている人々によって考え出され、すべての「論破」フレーズにはよく練られた反論がある。もちろん彼らはイデオロギーに固執しているかもしれないが、もう少し評価されて然るべきだ。

AIのCEOたちが危機から利益を得られること、そして彼らが必ずしも私たちの最善の利益を心に留めているわけではないことを疑わない。しかしこれは、COVID中の政府がどれだけ自由を制限できるかを試したのと同じだ。これはCOVIDが存在しないとか、ワクチンが悪だとか効果がないとかいう意味ではない。同じようにここでも、CEOたちが規制することで利益を得るとしても、AIが私たち全員を殺す可能性がないとか、規制がアラインメントを解決するための時間をもたらすかもしれないというわけではない。

また：私は間違っているかもしれず、AIリスクが偽の問題であるか、アラインメントが不可能であるかもしれないことを受け入れる。しかし私を説得したいなら、もっと良い議論を持ってきてほしい。

では、LLMを日常的に扱い、自分自身でトレーニングさえしたことのある者として、この技術の恩恵を日々享受している者として、私はこうすべきなのか：

- フロンティアラボでAIを構築して数千万ドルを稼いだばかりの誰かの話を聞くべきか。その人物はそれを「人類の存在危機」と呼び、突然まさにそのために作られた規制機関で働くつもりだ

- 数十億ドル規模のスタートアップのCEOでIPO間近の者たちの話を聞くべきか。彼らは「開発の一時停止」と規制の虜獲を呼びかけながら、フロンティアを押さえ、何事もなかったかのようにそこで価値を抽出し続けている

- 「人々」の話を聞くべきか。どうやらirreplaceable.orgのようなNGOが言おうとしているように。彼らは普通の日常の人々を装っているが、組織は政治ロビイストと政治的非営利団体を生業とする人々によって運営されている

- 「終末論者」の話を聞くべきか。彼らのほとんどはコードを書いたことがないか、テックに近くもない人々で、SFのシナリオをまるで現在の現実であるかのように語っている。つまり「AIがサーバー間で自己複製し、誰も気づかないうちに兵器化されたドローン/バイオラボ/ロボット工場を建設する」といったことを、そこに至るまでの狂気じみた出来事と失敗の連鎖、そして各段階で気づかれる実際の可能性を一切考慮せずに、私たちが抱える深刻な脅威であるかのように話している

- 本やSubstackやポッドキャストを宣伝する人々の話を聞くべきか。AIの終末について語っているが、関係者のほとんどはまたしてもエンジニアではなく、どのように…