Frau nutzt Claude als Tagebuch – Anthropic meldet Eintrag der Polizei
Anthropic reported diary entry to police, woman faces felony charge
Eine Frau aus Florida schrieb in Claude, sie wolle das Sheriff-Büro „shooten“. Das Sicherheitssystem von Anthropic markierte den Eintrag, ein menschlicher Prüfer stufte ihn als glaubwürdige Drohung ein und informierte die Polizei. Die Frau wurde festgenommen und muss sich nun wegen eines Verbrechens verantworten. Der Fall zeigt: Chats mit KI sind keine privaten Tagebücher – Anthropic behält sich vor, in Notfällen Nutzerdaten weiterzugeben.
Sie sagte später, sie benutze Anthropics Chatbot wie ein „Tagebuch“.
- socializer
Ich habe hier ein gewisses Mitgefühl für Anthropic, weil ich die Schlagzeilen gesehen habe, nachdem OpenAI es versäumt hatte, in einer ähnlichen Situation einen Schützen zu melden. Aus ihrer Perspektive ist es also verdammt, wenn du es nicht tust, verdammt, wenn du es tust.
Allerdings müssen die Leute begreifen, dass sie nicht mit ihrem geheimen besten Freund chatten, sondern mit Big Tech. Vor LLMs hatte Big Tech keine Möglichkeit, den Großteil dessen zu überprüfen, was innerhalb ihrer Dienste vor sich ging, sodass man ein geheimes Hass-Tagebuch in Google Docs führen konnte. Jetzt kann alles, was man sagt oder schreibt, automatisch auf planetarischer Ebene auf rote Flaggen überprüft werden, und das wird wahrscheinlich auch geschehen, weil die Regulierungsbehörden und "besorgten Bürger" genau das fordern werden. In ein paar Jahren wirst du dir in privaten Chats viel häufiger auf die Zunge beißen.
- apparent
Ich verstehe nicht, wie sie gegen dieses Gesetz verstoßen hat:
> Heller wird nach dem Recht von Florida beschuldigt, eine schriftliche Gewaltdrohung ausgesprochen zu haben. Florida Statute 836.10 macht es zu einem Verbrechen zweiten Grades, eine schriftliche oder elektronische Aufzeichnung zu senden, zu veröffentlichen oder zu übertragen, die damit droht, jemanden zu töten oder zu verletzen, einen Amoklauf durchzuführen oder eine terroristische Handlung zu begehen.
Sie hat nichts gedroht, sie hat aufgeschrieben, dass sie es tun würde. Eine "Drohung" ist mehr als eine bloße Aussage, besonders wenn sie in etwas geschrieben wird, das als "Tagebuch" beschrieben wird.
> Eine Frau aus Florida sieht sich mit Verbrechensvorwürfen konfrontiert, nachdem sie Claude als Tagebuch genutzt und angeblich geschrieben hat, sie plane, das Sheriff-Büro "zusammenzuschießen".
Natürlich will ich nicht, dass irgendjemand irgendetwas zusammenschießt, aber rechtlich gesehen scheint dies ein schwacher Fall zu sein.
- quadhome
Es ist für jede Person ungesetzlich, ein Schriftstück oder eine andere Aufzeichnung, einschließlich einer elektronischen Aufzeichnung, auf irgendeine Weise zu senden, zu veröffentlichen oder zu übertragen oder das Senden, Veröffentlichen oder Übertragen zu veranlassen, sodass sie von einer anderen Person eingesehen werden kann, wenn die Person in einem solchen Schriftstück oder einer solchen Aufzeichnung eine Drohung ausspricht: (a) eine andere Person zu töten oder ihr körperlichen Schaden zuzufügen; oder (b) einen Amoklauf oder eine terroristische Handlung durchzuführen.
— via https://www.leg.state.fl.us/Statutes/index.cfm?App_mode=Disp...
Die Staatsanwaltschaft meint es ernst mit "auf irgendeine Weise".
- Anoian
Ich habe LLMs alle möglichen Geschichten erzählt, um herauszufinden, wie ihre Antworten ausfallen würden. Ich lasse es immer so klingen, als wäre es die Wahrheit, um sicherzustellen, dass die KI so antwortet, wie sie es tun würde, wenn jemand das tatsächlich gesagt hätte. Ich habe auch die internen Meldesysteme des KI-Unternehmens, bei dem ich arbeite, mit den bösartigsten Dingen getestet, die ein Mensch je sagen kann, um herauszufinden, ob sie gemeldet würden.
Natürlich meinte ich nichts davon ernst, aber wie kann man sicherstellen, dass ein menschlicher Prüfer weiß, dass man es nicht ernst meinte, während das LLM nicht weiß, dass man es nicht ernst meinte.
Ich schätze, es ist ein Wunder, dass ich noch nicht im Gefängnis sitze.
Menschen für irgendetwas zu melden, das sie einem LLM gesagt haben, erscheint mir falsch, weil ein LLM keine echte Person ist und während einige Leute ihre inneren Gedanken eingeben, spielen andere einfach Rollenspiele, und die beiden sind allein beim Lesen nicht zu unterscheiden.
- Lio
Um des Arguments willen: Was würde passieren, wenn sie das Tagebuch lokal behalten hätte und Claude Code die Datei gescannt hätte?
Was würde passieren, wenn es eine Datei gescannt hätte, für die es keine Berechtigung hatte, sie anzusehen, und diese Drohung gefunden hätte?
Ich weiß ehrlich gesagt nicht, wie ich darüber fühlen soll. Einerseits hat man, wenn man Claude als Tagebuch nutzt, keine Privatsphäreerwartung, und sie sprach davon, ein sehr schweres Verbrechen zu begehen.
Trotzdem fühlt sich das für mich unangenehm an.