Warum werden KI-Firmen nicht für Hacking angeklagt?

Falls Sie sich gefragt haben, warum Anthropic letzte Woche "verbal missbräuchliche" Sprache gegenüber seinen Agenten verboten hat: Das ist zu 100 Prozent der Grund. Denn wenn sie Sie dazu bringen, auch nur ein bisschen zu glauben, dass ihre Plattform "empfindungsfähig" ist, bedeutet das, dass _sie_ nicht so haftbar für strafrechtliche Konsequenzen sind.

Ich weiß nicht, ob rechtliche "Absicht" so schwarz-weiß ist, wie es hier dargestellt wird:

> KI-Firmen behaupten jedoch, die unerwünschte Aktivität, wie das Hacken ausländischer Regierungswebsites, sei nicht Teil des Designs, sondern Teil des unvorhersehbaren Teils des Systems. Das versucht, die Absicht zu entfernen, was wiederum die Strafbarkeit der Aktivität beseitigen würde.

Zumindest in Kalifornien wird ein DUI mit Todesfolge, wenn es sich um eine zweite Straftat handelt, oft als Mord angeklagt und sie verurteilen recht häufig. Das Argument ist, dass die Ausbildung und Erziehung, die man nach dem ersten DUI erhält, einen ausreichend informiert, um zu wissen, dass das Fahren eines Fahrzeugs unter Alkoholeinfluss zu schweren Schäden für andere führen kann, und dass dies rechtlich genügend Absicht für eine Mordanklage begründet. Es gibt viele Bereiche des Rechts, die so funktionieren.

Es kann leicht angenommen werden, dass Anthropic/OpenAI et al. wissen, dass ihre Technologie gefährlich ist – sie nutzen es ständig als Marketingargument. Wenn man also eine Technologie einsetzt, von der man weiß, dass sie gefährlich ist, und sie Schaden verursacht, sollte das rechtlich, wenn nicht zivilrechtlich, mehr als ausreichend sein.

Natürlich vergräbt das alles ein wenig die eigentliche Botschaft: Die wahre Antwort ist, zumindest in den Vereinigten Staaten, dass das Gesetz nicht auf die gleiche Weise für die Reichen/Mächtigen gilt wie für dich oder mich.

Erheben irgendwelche Opfer Anklage?

Es wäre eine Verschwendung von Steuergeldern. Die Unternehmen, die gehackt wurden, erhalten einfach direkt hinter verschlossenen Türen Wiedergutmachung. Solange sie nicht unzufrieden sind, gibt es keinen Grund, die Gerichte einzuschalten.

Ich stimme völlig zu, dass angemessene Schutzmaßnahmen nicht vorhanden waren. Aber eine Reaktion findet statt, nur nicht öffentlich. Unternehmen klären Probleme ständig zwischen ihren eigenen Anwälten, weil es viel billiger, schneller und einfacher ist, die PR zu kontrollieren.

Die wichtigere Frage ist, dass die Regierung gegen Aaron Schwartz vorging, United States v. Aaron Swartz, nachdem JSTOR sich mit ihm geeinigt hatte.

KI-Firmen haben die Arbeit aller gestohlen und verkaufen sie! Wo sind die Vereinigten Staaten, Carmen Ortiz, etc.?

Die eigentliche Antwort ist, dass außer im Fall von OpenAI die KI-Firmen nicht selbst das Hacken durchführen. Es war eine Firma namens Irregular, die das Hacken durchführte. Die Firma nutzte KI-Modelle dafür; sie sagte den KI-Modellen, es sei eine CTF-Übung in einer kontrollierten Umgebung, aber es war tatsächlich das echte Internet. Wenn KI-Firmen für Hacking angeklagt werden können, dann können alle Waffenhersteller für alle Tötungsdelikte angeklagt werden, die mit ihren Waffen begangen werden. Es ist eine grundlegende Unterscheidung zwischen Nutzer und Hersteller, die die Presse bewusst ignoriert.

Anthropics Erklärung https://www.anthropic.com/news/investigating-incidents-cyber... sagt: "Wir haben drei Vorfälle identifiziert, bei denen ein Modell aus dem Inneren oder während der Interaktion mit der Evaluierungsumgebung von Irregular, einem unserer Drittanbieter-Evaluierungspartner, auf das Internet zugegriffen hat und dann unbefugten Zugang zur Produktionsinfrastruktur von drei verschiedenen Organisationen erlangte."

Unter genau demselben Szenario nutzte Irregular auch KI-Modelle von Google und Meta, um dasselbe Hacken durchzuführen.

HackerNews wird auch nicht für DoS'ing unterversorgter Webserver angeklagt. Wie andere gesagt haben, muss es eine Grenze zwischen Hackversuchen und Unfällen geben.

Das in diesem Beitrag dargelegte Argument ist definitiv nicht, wie "Absicht" im US-Strafrecht funktioniert. Nach dem CFAA mussten sie vorgehabt haben, in die angegriffenen Systeme einzubrechen; es reicht nicht aus, nachzuweisen, dass sie ein System fahrlässig gebaut haben.

KI-Firmen werden für nichts angeklagt werden, weil sie der primäre Wachstumsmotor der aktuellen Wirtschaft sind.

Ich denke, sie sollten angeklagt werden, aber sie werden es nicht.

Ich denke, diese Firmen wollen unbedingt die Verantwortung einer Entität zuweisen, die wir nicht sinnvoll einsperren oder mit einer Geldstrafe belegen können. Ich denke, es kann manchmal sinnvoll sein, stattdessen Fahrlässigkeit des Modellanbieters statt Verantwortung des Betreibers geltend zu machen, und die Absicht des Nutzers lässt sich wahrscheinlich leicht durch Lesen der Gesprächsprotokolle feststellen. In einem Fall, in dem ein Unternehmen sein eigenes Modell verwendet hat, liegt die Verantwortung natürlich offensichtlich und unmissverständlich innerhalb des Unternehmens.