科学者・法学者・技術者がAnthropicの「安全」ブランドに異議、IPO直前に連合声明

"Anthropic Is Not a Safe AI Company" – Coalition Challenges Anthropic Safety

IPOを控えたAnthropicに対し、科学者、法学者、技術リーダーからなる幅広い連合が「Anthropicは安全なAI企業ではない」と挑戦状を突きつけた。Hacker Newsの議論では、同社の巨額ロビー活動やオープンソースモデルへの反対姿勢、プライバシー侵害の疑いが指摘され、安全性を巡る主張と実際の行動の乖離が焦点となっている。一方で、超知能のリスクを信じるがゆえに支配を正当化するという同社の論理の一貫性を認める声も上がった。

この連合の人々はほとんどすべての点で意見が一致しない。それでも、自らの支配がより大きな善であると自らを納得させる企業の危険性を、我々は皆認識している。
  1. neya

    Anthropicはロビー活動に多額の資金を投じ、何百万ドルもつぎ込んでいる。そうしている唯一の企業だ。そして彼らの議題は常にオープンソースモデルに反対することだった。なぜなら、その戦争では勝てないと分かっているからだ。JensenのリークがAnthropicのIPO直前に完璧なタイミングで行われたのは偶然ではない。Jensenはオープンウェイトモデルの大いなる支持者だった。

    彼らは誰かのプライバシーを気にかけるどころか、ユーザーをスパイしていたことが発覚しているので..

  2. gensym

    興味深いのは、このリストに著名なドゥーマーと著名なアンチドゥーマーの両方が含まれていることだ。彼らが一致できるのは、Anthropicが誠実でも責任ある行動もしていないということだ。Ant自身の発言を額面通りに受け取っても、それには反論しにくい。

  3. atleastoptimal

    Anthropicは、既存の「扱いやすいAIリスク」に関する信念を裏付ける限りにおいてAI安全性を気にかけている。モデルが誰かの新規病原体作成を助けるかどうかを測るのはとても簡単だが、変革的なAIの存在自体が市民社会を解体するか、あるいは絶対的専制を容易にするかどうかを判断するのははるかに難しい。後者には彼らの潜在的な時価総額を下げる決断が必要であり、だからこそほとんど追求されないのだ。

  4. AshotSanamyan

    彼らが安全である必要があるのか、それとも他の皆がAnthropicから安全である必要があるのか?

    どちらの側がより安全である必要があるかには大きな違いがあると思う。AIが安全であるべきなのか、AIを使う皆が安全であるべきなのか。

  5. tim333

    DarioとAnthropicが、ASIは危険だと考えており、何らかの全体主義政府やナチス式敬礼をする男、あるいはずる賢いことで有名な男に支配されるよりも、安全意識の高い誰かが最初に到達するのが最善の結果だと本気で思っている可能性はある。

    彼らが安全でないと引用されている証拠:

    - RSI - 最初に到達するためにはそうせざるを得ない

    - 安全だと売り込むこと - まあ予想通り

    - ロビー活動 - その詳細はよく知らない

    私はおそらくXAiやOpenAIよりは彼らを信頼するが、Googleよりは信頼しない。何とも言えない。

この日のほかの記事

2026-11-18