把Claude当日记，女子因威胁被捕
Anthropic reported diary entry to police, woman faces felony charge
佛罗里达女子Carli Michelle Heller将Anthropic的Claude当作私人日记，却因写下袭击Sheriff's office的计划而面临重罪指控。Claude的安全系统自动标记了该条目，经人工审核确认为可信威胁后，Anthropic依法向警方报告。根据佛罗里达州法律，发送暴力威胁属于二级重罪。这起事件再次提醒用户，AI对话并非绝对私密，涉及严重危害的内容可能被上报。此前OpenAI也因类似原因在加拿大和佛罗里达州面临诉讼，凸显了AI平台在安全合规与用户隐私间的复杂平衡。
这绝不是仅供你一人阅读的私人日记。
HN 评论区
69- socializer
我对 Anthropic 这边有些同情，因为我见过 OpenAI 在类似情况下未能上报一名枪手后的新闻标题。所以从他们的角度来看，这是进退两难：不做是错，做了也是错。
不过，人们得明白，他们不是在跟自己的秘密死党聊天，而是在跟科技巨头对话。在 LLM 出现之前，科技巨头根本无法审查其服务中发生的大部分事情，所以你可以在 Google Docs 里写一本秘密的仇恨日记。现在，你说或写的每一句话都可能在全球范围内被自动筛查以寻找危险信号，而且大概率确实会被筛查，因为监管机构和“忧心忡忡的公民”会要求这样做。再过几年，你在私人聊天中就会经常欲言又止了。
- apparent
我不明白她是如何违反这条法律的：
> Heller 根据佛罗里达州法律面临“发出书面暴力威胁”的指控。佛罗里达州法规 836.10 规定，发送、发布或传输任何书面或电子记录，若其中威胁要杀害或伤害某人、实施大规模枪击或恐怖行为，均构成二级重罪。
她并没有发出任何威胁，她只是写下她打算这么做。所谓的“威胁”不仅仅是陈述，尤其是当这些内容被记录在所谓的“日记”中时。
> 一名佛罗里达州女子因将 Claude 当作日记，据称写下计划“扫射”警长办公室而面临重罪指控。
显然我不希望任何人去扫射任何东西，但从法律角度看，这似乎是一个薄弱的案例。
- quadhome
任何人以任何方式发送、发布或传输（或促成发送、发布或传输）任何书面或其他记录（包括电子记录），只要该记录可能被他人看到，且其中包含以下威胁，即属违法：(a) 杀害或伤害他人；或 (b) 实施大规模枪击或恐怖行为。
—— 来源：https://www.leg.state.fl.us/Statutes/index.cfm?App_mode=Disp...
地方检察官对“以任何方式”这一条款非常重视。
- Anoian
我曾向 LLM 讲述各种故事，以测试它的回答。我总是让内容听起来像真事，以确保 AI 的回答方式与某人真正说出这些话时一致。我还测试了我所在 AI 公司的内部标记系统，输入一个人能说的最邪恶的话，看它是否会触发标记。
当然，我说的这些东西都不是认真的，但你如何能让人类审核员知道你不是认真的，同时 LLM 却不知道你不是认真的呢？
我想我还没进监狱真是个奇迹。
因为对 LLM 说过的话就给人打标记，我觉得这不对。因为 LLM 不是真人，有些人输入的是内心想法，有些人只是在角色扮演，仅凭阅读文本根本无法将这两者区分开来。
- jameskilton
Anthropic 通过窃取数百万本书籍并公然无视版权，实际上犯下了重罪：却无人指控。
而一个不幸的女人，仅仅因为在错误的地方写了错误的内容，现在生活就被彻底颠覆，只因所谓的“思想罪”。
致 Anthropic 及其所有员工：你们公司的产品以及你们工作的成果就是残酷。你们在助长它，并强行塞给所有人。你们再也无法声称自己是“道德”的 AI 公司了，因为根本不存在这种东西。