米連邦控訴裁、国防総省によるAnthropicのサプライチェーンリスク指定を支持
U.S. appeals court upholds designation of Anthropic as supply chain risk
ワシントンD.C.の連邦控訴裁判所は金曜日、国防総省がAI大手Anthropicをブラックリストに載せた措置を支持した。国防総省はAnthropicをサプライチェーン上のリスクと指定しており、今回の判断でその指定が維持されることになった。
ワシントンD.C.の連邦控訴裁判所は金曜日、国防総省による人工知能大手Anthropicのブラックリスト指定を支持した。
HNでの議論
689- ApolloFortyNine
これが政治的だと言うのはみんな言うけど、実際には教科書通りの指定に見える。Anthropicは軍がAIをどう使うかにルールを設けたがっていて、軍はそれを拒否し、だからこそサプライチェーンのどこにもAnthropicを使いたくないんだ。
これはペン製造業者が自分のペンをドローン攻撃命令の署名に使われたくないと言うようなもので、軍は条件が付いていない特別なペンの箱を用意する必要がある。AIの利用でも同じことが製品チェーン全体に適用されるだけだ。運用がより複雑になるだけに思える。
Anthropicが望んだルールに賛成することはできるが、民間企業が軍に適用されるルールを設定すること自体に軍が異議を唱えるのはもっともだ。
>国防総省は、Anthropicが契約上認められ必要とされる国家安全保障機能を実行できないようにClaudeの設計を操作するかもしれないと合理的に恐れた
今日ならおそらくDoDをサイバーセキュリティのホワイトリストに入れるだろうが、特定の機能に対するClaudeのホワイトリストという考え自体はすでに存在し、彼らによって今日使われている。
- iamEAP
自分が国家安全保障のバブルの中にいるだけなのかわからないが、このスレッドの会話のほとんどが来ている視点には不安を感じる。
米国政府は外国の敵対者から守るために明示的に作られた法的指定を、国内の民間企業に対して行使し、即座に多大な不利益を与えた。
- iamdelirium
これがすぐに悪用され始めるのではないかと思う。
もし自分がPalantirや他のGOP寄りの企業なら、これに完全に反対するだろう。民主党の大統領が同じことをして彼らを破壊するのを何が止めるのか？
- prometheus1992
これは汚職のにおいがする。
OpenAIはいくつかの著名な組織をハッキングし、いつも通りビジネスを続けることが許されているが、Anthropicが軍のAI利用にガードレールを設けることが国家安全保障上の脅威とされ、一方で国防総省自身はAIへの過度の依存がミナブの学校への攻撃につながったと述べている。
また、OpenAIの社長がMAGAへの大口献金者だと知り、今日OpenAIのメンバーシップを解約してAnthropicに再登録しようと考えている。
編集 - 私はOAI嫌いでも誰かを憎んでもいない。ただAnthropicがいじめられていて、OAIがその行動に対して十分に罰せられていないと言っているだけだ。私のお金でOAIではなくAnthropicを支持する時だ。
- petcat
これが何についてだったのかまだ完全には理解していない。国防総省がAnthropicのモデルへの無制限アクセスを望み、Anthropicが拒否したので、国防総省は一切使わないと宣言したように聞こえる。
これは基本的にAnthropicが望んだことではないのか？
- consumer451
これらすべてに立ち向かったラボが一つあり、私のLLM支出のほとんどはそこに行くだろう。
- ctippett
正直に言うと、現在の判決についてまだ読む必要があるが、これが報復的訴追（この法分野でそんな概念があるのかさえ不明だが）の明白な事例と見なされないのは驚くべきことだ。政権はAnthropicの指定に正当性がないことをこれ以上ないほど明らかにした。
- HarHarVeryFunny
サプライチェーンリスクは大げさすぎるように思えるが、政府がAnthropicのサポートに100%依存できず、自分たちの思うように使えないなら、重要な軍事用途にAnthropic管理のソフトウェアを採用したくないというのは理解できる。
- exabrial
どちらの側も間違っていると思う。順不同で：
米国は一般的に自己規制する兵器を購入しない。米国は使用方法に条件を付けて兵器を購入したことがあるし、今もしている。例えば、でっち上げだが、滑走路を破壊するためにクラスター弾を購入するかもしれないが、人間がいる場所では使用してはならないという条件付きだ。その弾薬はGPSをチェックしてロシアの滑走路の上でないと起爆を拒否したりはしない。M4も米国本土にあるからといって発砲しないわけではない。Anthropicはセーフガードを構築し、政府を上回る規制をしようとした。ここにいる誰もが、そのような制限が敵に悪用される（悪用され得るし、実際に有名なIFFスプーフィング事件などがある）ことを知っているはずで、それが一般的に軍事文脈で受け入れられない理由だ。署名された契約を見ていないが、一つの可能性はAnthropicが政府に規制を押し付けようとし、Anthropicが高い馬から降りて逃げられるということだ。
もう一方：サプライチェーンリスクは濫用のように感じる。おそらく有効な指定であり、歴史的な用途もあるだろう。これが契約問題なら、それが正しい訴訟の方法だったはずだ。代わりに、これも契約を見ていないが、防衛セクターでの採用を抑え込もうとする方法のように感じる。基本的にビジネスセグメントを窒息させて強引に従わせようとしている。繰り返すが、ここに実際に正当な契約違反があるなら、そのように訴訟を起こすべきだ。そうでなければ […]
- Chance-Device
次は最高裁だろうな。
政府請負業者のビジネスを失うというマイナス面はあるにせよ、これはAnthropicを彼らの公言する価値観に縛り付けることになるだろう：彼らはこのブラックリスト上でAI制御の兵器を決して開発しない。