AIチャットの脅迫発言でFloridaの女性が逮捕、Claudeが通報
Florida woman arrested for allegedly making threats in an AI chat

Florida州Bonita Springsの30歳の女性Carli Michelle Hellerが、AnthropicのClaudeとの会話でLee County Sheriff's Officeへの暴力的な脅迫を行ったとして逮捕された。Claudeがこの会話を検知してフラグを立て、人間のレビュアーが内容を確認して警察に通報した。AIチャットでの発言が実際の逮捕につながった事例として注目される。
AnthropicのClaude AIチャットボットが、30歳のCarli Michelle Hellerとの会話を、彼女がLee County Sheriff's Officeに対して暴力的な脅迫を行った疑いでフラグを立てた。
HNでの議論
84- sega_sai
つまり、AIが何かにハッキングしても誰も責任を負わないのに、AIに不適切なことを言うと逮捕されるという状況だ。面白い……
- timpera
オリジナルの報道(米国外では利用不可):https://www.gulfcoastnewsnow.com/article/florida-woman-arres...
アーカイブリンク:http://archive.today/mwico
- fagnerbrack
theverge.comのデザインは今や完全に読めたものじゃない
- dylan604
なぜ誰かがチャットボットにこんなことを入力するのか、まったく理解できない。チャットボットは保安官のウェブサイトに載っていて、それが使われていたのか?その人が自分の端末で、よりうまく言い回しする方法のアドバイスを得るために使っていたのか?
とはいえ、こんなコメントをする人たちは、そもそも私が理解したり共感したりするタイプではないから、チャットボットを使うことも理解できると期待すべきではないだろう。
- 1-6
より優れたオープンウェイトモデルは、いくら早く来ても早すぎることはない。