Anthropicが活動家を監視する予測的サーベイランスシステムを構築中
Anthropic Is Building a Predictive Surveillance System to Monitor Activists
Anthropicが、AI開発に反対する活動家を監視するため、予測的サーベイランスシステムを構築していることが求人情報やインタビューから明らかになった。同社はSamdeskと契約し、抗議活動の事前検知や警察への通報を行い、GSISチームは「活動家」を脅威として追跡。国家安全保障への注力とともに、市民の反対を抑え込む姿勢が浮き彫りになっている。
「目標は、業務をリアクティブな情報収集から、プロアクティブで予測的、予防的な脅威エンゲージメントと管理へと変革することです。それが、あらゆる業界で高価値ターゲットを保護するために理にかなった運用成熟度なのです」
HNでの議論
163- cldellow
この記事の編集的な色付けはなかなかのものだ。
編集的な色付けを取り除くと、結論はこうだと思う：
1. 誰かがClaudeにAR-15を持っていると話し、AnthropicのCEOが「自分の照準に入っている」と言った。Anthropicはこれを警察に通報した。
2. Anthropicは警備会社と契約している。
3. Anthropicはセキュリティの内製能力を構築しようとしている。
Anthropicに価値の高い標的がいるのは明らかだ（例えば1のAR-15を持っている人物を見よ）。私が2000年代にMicrosoftで働いていたときも、施設や幹部に対する脅威を調査する内製のセキュリティ部門があった。
Anthropicが悪いことをしているとは信じるだろうが、この記事は「予備犯罪」に関する大げさな言辞にもかかわらず、実際にはそう主張しているとは思わない。
- palmotea
みんな覚えておけよ：Anthropicは善玉だ！道徳、アラインメント、安全性を気にかけている！だから異論を潰すためのこの侵襲的な監視も、我々にとって良いことに違いない！
AIは権威主義者の夢だ。未来は明るい！偉大なる指導者Darioが我々をそこへ導いてくれる！
- slowin
> 「AIに対して世間が否定的な見方を持っていること（そしてそれが大きな問題であること）には同意しますが、それが主に私や他のAIリーダーがAIのリスクについて警告していることが原因だとは思いません」と、AnthropicのCEO Dario Amodeiは先月Twitterに書いた。「これは根本的に信頼の危機だと思います……普通の人々は企業や政府、テック業界を信頼しておらず、我々が彼らを陥れる新しい方法を企てているといつも疑っているのだと思います。」
予備犯罪の世界的な監視装置を作っている本人が言うか。なぜ人々が彼を信頼しないのか不思議だ！
- vaylian
> 「あの余分な1時間は決定的でした。それがなければ、我々の幹部たちは会議を終えて退出し、混乱のまっただ中にまっすぐ突っ込んでいたでしょう。」
> [..] 「高ストレスな状況になり得たものが」
民主的な抗議が今や高ストレスな状況だと？
- woah
ここで場を白けさせてすまないが、これはどの大企業が持っているセキュリティと違うのか？
見出しの逸話は、公開された許可申請の情報に基づいて、抗議活動を避けるように幹部の経路を変更したという話だ。
もう一つの逸話は、殺害予告をしたユーザーを通報したという話だ。
- sleight42
本気で？誰も「Rokoのバシリスクの第一歩」と言わなかったのか？？？
- hyperbolablabla
UK政府が反体制派を予備犯罪で有罪にするのを待ちきれない
- smalltorch
この記事からは、これがすべてのインターネット利用の大量取り込みなのか、単に自社プラットフォーム内でのことなのかはっきりしない。