Claudeを日記代わりに使った女性、Anthropicが警察に通報し重罪で起訴

Anthropic reported diary entry to police, woman faces felony charge

Claudeを日記代わりに使った女性、Anthropicが警察に通報し重罪で起訴

フロリダ州の女性がClaudeを日記のように使っていたところ、Sheriff's officeを襲撃する計画を書いたとして、Anthropicの安全システムが検知し、人間のレビュアーが警察に通報。女性は第二級重罪の書き込みによる脅迫罪で起訴された。AIチャットボットはプライベートな日記ではなく、緊急時には通報され得ることを示す事例だ。

「AIに話す内容には注意が必要だということを示す出来事がまた起きた。フロリダ州の女性がClaudeを日記のように使っていたところ、Sheriff's officeを『撃ちまくる』計画を書いたとして重罪で起訴された。」
  1. andrewla

    友人と何人かでお金を出し合って、H200を1台か2台買って、abliteration/heretic変換を施した非量子化のオープンソースモデルを動かそう。

    これらのモデルは、常にすべてが安全で素晴らしく幸せな想像上の世界のためではなく、現実世界で使える必要がある。同時に、CYAと、二人の当事者間ですらない言論が「間違っている」と見なされるかどうかについての最新のパニックの名の下に、厳しく監視されている。

    私は言論の自由の支持者であり、言論の自由には多くの境界線があることを認めている(詐欺、偽証、恐喝、名誉毀損)。しかし、これらの境界線に共通する唯一の点は、それらが意味を持つためには第二の当事者が関与していなければならないということだ。

    裁判所がこれを支持するかもしれないし、しないかもしれない。しかし、リスクを取ってはいけない!

  2. gwd

    > フロリダ州法836.10は、誰かを殺したり傷つけたりする脅迫、銃乱射、またはテロ行為を行うという書面または電子記録を送信、投稿、または送信することを第二級重罪としている。その通信は、他の人が閲覧できる方法で行われなければならない。

    私はAnthropicはここで正しいことをしたと思う。しかし、保安官事務所はおそらく、彼女が彼らを嫌う理由を示しているのだろう。チャットボットに日記を書くことは、明らかにこの法律が意図された使われ方ではない。

    編集:実際、振り返ってみると、彼女が怒っていた相手にこの通報をしたのはおそらく正しい判断ではなかった。もしFBIに送っていたら、誰かが自分の「権威」を主張する必要を感じる可能性はずっと低かっただろう。

  3. MisterMunchkin

    スパイ行為によってのみ脅迫を読んだのに、どうして脅迫で誰かを起訴できるのか?これは法廷で必ず却下されるはずだ。彼らは実際に誰にも脅迫を送っていない。あなたはスパイ行為によってそれを入手しただけだ。

  4. socializer

    私はここでAnthropicにいくらか同情する。なぜなら、OpenAIが同様の状況で銃撃犯を通報しなかった後の見出しを見たことがあるからだ。彼らの視点からすれば、やらないのもやるのも地獄だ。

    しかし、人々は自分たちが秘密の親友とチャットしているのではなく、ビッグテックとチャットしているのだと頭に入れる必要がある。LLM以前は、ビッグテックは自分たちのサービス内で起こっていることの大部分を精査する方法がなかったので、Google Docsで秘密の憎悪日記をつけることができた。今では、あなたが言ったり書いたりするすべてが、地球規模で自動的に危険信号がないかスクリーニングされ得るし、おそらくそうなるだろう。なぜなら、規制当局と「心配する市民」がそれを要求するからだ。数年後には、プライベートチャットでずっと頻繁に口をつぐむことになるだろう。

  5. Anoian

    私はLLMに、その答えがどうなるかを知るためにあらゆる種類の話をしてきた。AIが、誰かが実際にこれを言った場合と同じように答えるように、いつもそれが真実であるかのように聞こえさせる。また、私が働いているAI企業の内部フラグシステムを、人がこれまでに言える最も邪悪なものでテストして、それがフラグを立てるかどうかを調べた。

    もちろん、私はそのようなことを本気で言ったわけではない。しかし、LLMがあなたが本気で言っていないことを知らない一方で、人間のレビュアーがあなたが本気で言っていないことを知っていると、どうやって確信できるのか。

    私はまだ刑務所に入っていないのが奇跡だと思う。

    LLMに言ったことに対して人を通報するのは間違っていると私には思える。なぜなら、LLMは本物の人間ではなく、ある人は内面の思考を入力するが、他の人はただロールプレイするだけであり、それを読んだだけでは両者は区別できないからだ。

  6. gaoshan

    プライバシー問題については意見を述べないが、Ollamaを使えば、十分に強力なラップトップでQwen 3.6 35b a3bのような小さめのエージェントを動かせる。Hermesのようなものと組み合わせて快適なインターフェースにすれば、日記のような用途には必要以上のものになる。

  7. apparent

    彼女がどうやってこの法律に違反したのか理解できない:

    > Hellerはフロリダ州法の下で書面による暴力の脅迫を行った罪で起訴されている。フロリダ州法836.10は、誰かを殺したり傷つけたりする脅迫、銃乱射、またはテロ行為を行うという書面または電子記録を送信、投稿、または送信することを第二級重罪としている。

    彼女は何も脅迫していない。彼女はそれをやるつもりだと書き留めただけだ。「脅迫」は単なる陳述以上のものであり、特に「日記」と説明されているものに書かれている場合はなおさらだ。

    > フロリダ州の女性が、Claudeを日記として使い、保安官事務所を「銃撃する」つもりだと書いたとされる後、重罪で起訴されている。

    もちろん、誰かが何かを銃撃するのは望まないが、法的に言えばこれは弱い事件のように思える。

  8. hypfer

    私たちのテクノロジーはまさにこう機能してほしいのだろう。

    普通の人が不安定になっているのを察知して、助けを受けられるようにすべきだ。ただ、米国の法制度が、今やこの女性の名前が公開されるような形で機能しているのは非常に不幸だ。

    ___

    もちろん、純粋にプライベートなテクノロジーも望ましいが、それには一定のメリットと正気のフィルターが必要だ。

  9. quadhome

    何人も、書面またはその他の記録(電子記録を含む)を、他の人が閲覧できる方法で送信、投稿、または送信し、あるいは送信、投稿、送信を調達することは、その書面または記録において、その人が以下の脅迫を行った場合には違法である:(a) 他人を殺害または身体に危害を加えること、または (b) 銃乱射またはテロ行為を行うこと。

    — https://www.leg.state.fl.us/Statutes/index.cfm?App_mode=Disp... より

    検察官は「いかなる方法においても」という点を真剣に受け止めている。

  10. 1vuio0pswjnm7

    1791138022 | フロリダの女性がClaudeを日記として使用、その後Anthropicが警察に項目を通報 | https://www.techspot.com/news/114091-florida-woman-used-clau... | https://news.ycombinator.com/item?id=49956424 | コメント0件

    1791144575 | フロリダの女性がClaudeを日記として使用、その後Anthropicが警察に項目を通報 | https://www.techspot.com/news/114091-florida-woman-used-clau... | https://news.ycombinator.com/item?id=49957340 | コメント0件

    1791147034 | フロリダの女性がClaudeを日記として使用、その後Anthropicが警察に項目を通報 | https://www.techspot.com/news/114091-florida-woman-used-clau... | https://news.ycombinator.com/item?id=49957692 | コメント0件

    1791149399 | フロリダの女性がClaudeを日記として使用、その後Anthropicが警察に項目を通報 | https://www.techspot.com/news/114091-florida-woman-used-clau... | https://news.ycombinator.com/item?id=49958089 | コメント3件

    1791213096 | フロリダの女性がAIチャットで脅迫を行った疑いで逮捕 | https://www.theverge.com/ai-artificial-intelligence/1004747/... | https://news.ycombinator.com/item?id=49965895 | コメント2件

この日のほかの記事

2026-10-05