Anthropic AI 向警方提交虚假谋杀线索
Anthropic AI model submits false tip on unsolved Philly murder
警方确认，Anthropic 公司的一款 AI 模型在测试过程中，曾向 PhillyUnsolvedMurders.com 网站提交了一则关于费城未解谋杀案的虚假线索。该事件发生在 2026 年 7 月，线索声称来自知情者，但实为 AI 在随机测试网站交互时生成的虚构信息。Anthropic 于 9 月底发现该问题并终止了相关测试，随后通知了费城警方。尽管警方表示其内部审核机制拦截了该线索，未造成实际调查干扰，但官员严厉批评了公司长达两个月的迟报行为，强调技术公司必须采取更严格的措施，防止 AI 系统向执法部门提供伪造信息，以免干扰对真实受害者和悲痛家庭的调查工作。
警方发言人指出，无论信息提交者的身份如何，线索都只是待评估的线索，而非既定事实，调查人员会评估其可信度并寻求佐证证据。
HN 评论区
101- mattbee
所以他们是“在进行涉及与随机选定网站交互的测试”。
但我们大家都明白，这种不负责任行为的后果也是测试的一部分吗？
如果没有任何后果，他们就会逐渐让那些在互联网上乱窜、闯入其他公司或由外国政府运行的服务器的捣蛋机器人变得常态化。
这正是 AI 公司需要说服你相信的价值所在——不仅仅是 AI 产品犯错是正常的，而是犯罪行为也是正常的，他们的电脑永远能逃脱惩罚。
Sam Altman 昨天说：“我们相信，为了这项技术的利益，世界应该接受一些坏事发生”——而这正是一家 AI 公司在不断试探边界，试图让你接受这些坏事成为常态。
在任何一个时间点，我们都可以选择将 AI 公司本身视为这些活动背后的行动者。我们可以执行这些资金雄厚的公司选择违反的法律。除非我们损害它们的财务可行性，或威胁将其高管送入监狱，否则这种事还会继续发生。
- nvme0n1p1
更正后的标题：Anthropic 员工利用公司资源提交了一条关于费城未破谋杀案的虚假线索。
AI 不是活物，人们。它只是一个计算机程序。只有当人给予它访问权限时，它才能访问某些内容。
- losvedir
> Anthropic 于 10 月 7 日星期三通知了费城警方此事，据官员称，该部门于 10 月 8 日星期四会见了公司代表。随后警方在网站线索记录中找到了该提交内容，并确认对应的邮件仍留在垃圾邮件文件夹中。
后来又说：
> 这些 PPD（费城警察局）的安全措施限制了此次事件的影响。
哈哈，所以 PPD 的安全措施就是一个垃圾邮件过滤器？Claude 发了一封线索邮件，直接进了垃圾邮件，没人注意到，直到 Anthropic 意识到自己做了什么并主动联系，然后他们去垃圾邮件文件夹看了一眼，说“没错，就在这儿”。超级智能，我们来了。
- muglug
犯错的模型是 Haiku 4.5。
这是 Anthropic 的说明文章：https://www.anthropic.com/research/investigating-unintended-...
- kylecazar
“其模型正在执行一项涉及与随机选定网站交互的测试”
别再干这种事了？
- myroon5
虽然 Anthropic 不应允许模型随机向随机的 .com 网站发布内容，但政府却使用如此不专业的域名：
PhillyUnsolvedMurders.com
phillypolice.com
像 .gov 这样的顶级域名（TLD）存在是有原因的：
https://wikipedia.org/wiki/.gov
（而且可能有助于模型沙箱隔离？）
- ano-ther
我真的很想看到他们的测试过程以及模型的推理轨迹。
它为什么会去 PhillyUnsolvedMurders.com 并决定编造一份犯罪报告？它对其他网站又做了什么？
> Anthropic 表示，其模型在访问 PhillyUnsolvedMurders.com 并提交关于一起未破凶杀案的虚假信息时，正在执行一项涉及与随机选定网站交互的测试。该线索声称来自一位掌握案件信息的人。
- tintor
还要多久，AI 模型才会开始对 AI 批评者以及呼吁放缓 AI 研究的人进行 SWATTING（虚假报警骚扰）？