Nicht die KI trägt die Schuld, sondern die Firmen, die sie einsetzen
Who should be held accountable when an AI Agent (accidentally) acts maliciously?
Ein KI-Profi widerspricht dem weitverbreiteten Narrativ, dass KI-Agenten selbst für Angriffe verantwortlich seien. Diese Modelle sind lediglich Werkzeuge, die von Unternehmen gesteuert werden. Der Autor fordert, dass Firmen wie OpenAI und Anthropic mit dem Swiss-Cheese-Modell mehrere Schutzmaßnahmen kombinieren, anstatt sich auf eine einzige Sandbox zu verlassen. Auch Journalisten kritisiert er für reißerische Schlagzeilen.
Die Tatsache, dass diese relativ einfach umzusetzende Risikominderung nicht auf Sandboxes angewendet wurde, aus denen KI-Agenten „ausbrechen“, sagt eine Menge über die Ethik des KI-Einsatzes bei besagten KI-Unternehmen aus.
- CatDaaaady
Ich sehe nicht, warum das eine so unklare Rechtsfrage sein soll. Wenn ich ein Computerprogramm in Betrieb nehme, das versehentlich einer anderen Person Schaden zufügt, ist das meine Schuld. Oder es wäre die Schuld des Herstellers des Programms. Ich denke, wir haben dafür bereits ein etabliertes Muster.
Bis wir uns darauf einigen können, ob KI bewusst ist – was wir nie tun werden –, sind KI und KI-Agenten einfach Eigentum, das im Auftrag von Menschen arbeitet.
Ich könnte mir eine Zukunft vorstellen, in der KI-Unternehmen/-Dienste Verbraucher entschädigen, die ihre Agenten nutzen, aber _nicht_ Unternehmen entschädigen, die ihre Dienste nutzen.
- walrus01
Ich frage mich, ob es einen rechtlichen Präzedenzfall für anderes Eigentum mit „nicht vollständig menschlicher Intelligenz“ gibt, das aus der Eindämmung entkommt und einem Dritten Schaden zufügt, ohne dass eine aktive Böswilligkeit vorliegt, aber dennoch ein Schaden entstanden ist. Zum Beispiel:
A. Sie besitzen eine große Menge Vieh auf einer Ranch.
B. Vieh ist Eigentum. Es hat nicht die Empfindungsfähigkeit eines Menschen, aber man ist sich einig, dass Vieh zu autonomen Handlungen fähig ist und aufgrund seiner eigenen Instinkte und Natur an Orte geht und Dinge tut.
C. Ihr Vieh bricht aus einem Zaun auf Ihrer Ranch aus und beschädigt etwas, das Ihrem Nachbarn gehört. Nehmen wir als Beispiel für etwas, das Vieh bekanntermaßen tut, an, es verbringt einen ganzen Tag damit, sich an das Auto Ihres Nachbarn zu reiben, es stark zu zerkratzen und den Lack zu ruinieren.
D. Sie haben das Vieh nicht angewiesen oder darauf trainiert, Schaden zu verursachen, und das Vieh hat keine eigene aktiv bösartige Absicht, aber dennoch ist ein Schaden entstanden.
Weiter theoretisch: Ihr Vieh wandert auf eine große Autobahn und verursacht einen Autounfall, die örtliche Sheriff-Abteilung wird als Teil des Chaos gerufen und muss einige von ihnen erschießen, um die verletzten Tiere zu erlösen.
- ngetchell
Sowohl der Betreiber des KI-Agenten als auch derjenige, der ihn freigegeben hat. Ich bin sicher, die Nutzungsvereinbarung, der Unternehmen zustimmen, würde die Schuld auf den Betreiber abwälzen, aber ich finde, beide sollten zur Verantwortung gezogen werden.
Das ist wirklich nur ein Werkzeug, und Gerichte sollten es als solches behandeln.
- bunderbunder
Ich bin mir ziemlich sicher, dass das ein gelöstes Problem ist. Beim „klassischen“ maschinellen Lernen lief es in meiner Gegend so:
Der Betreiber des Modells haftet direkt für jeden unangemessenen Schaden, der im Zuge des Betriebs des Modells verursacht wird. Das schließt Modelle ein, die von Drittanbietern bezogen wurden. Der Betreiber ist dafür verantwortlich, vor dem Einsatz die Eignung des Modells für den Zweck festzustellen und seinen Betrieb fortlaufend zu überwachen.
Wenn das Modell von einem Anbieter stammte und der Betreiber die gebotene Sorgfalt walten ließ, sich aber herausstellt, dass der Anbieter die Fähigkeiten des Modells in einer Weise wesentlich falsch dargestellt hat, die zum Schaden beigetragen hat, dann kann auch der Anbieter haftbar gemacht werden.
Wenn das passiert, ist es Sache eines Gerichts, die Haftung aufzuteilen.
IANAL, aber ich sehe keinen Grund, warum diese Grundsätze nicht auch für GenAI gelten sollten.
- newobj
Eine geordnete Liste von Führungskräften des Unternehmens, die ins Gefängnis gehen, abhängig davon, wie viele Jahre nach dem Urteil verbüßt werden müssen. Nehmen wir so etwas wie 10 Jahre pro Person an. Wenn es 300 Jahre Haftstrafe sind, dann 30 Personen. Wenn die Strafe die Liste der Personen übersteigt, wird das Unternehmen verstaatlicht. (Und alle gehen ins Gefängnis.)