Warum wir KI-Agenten keine Rechtspersönlichkeit geben dürfen
We must not grant AI agents legal personhood
Ein Meinungsartikel der Financial Times warnt davor, KI-Agenten den Status einer juristischen Person zu verleihen. Die Autorin argumentiert, dass eine solche Anerkennung grundlegende Rechtsprinzipien untergraben und zu einer gefährlichen Verschiebung von Verantwortung führen würde. Sie fordert klare Regeln, die Menschen und Unternehmen für Handlungen von KI-Systemen haftbar machen, statt den Systemen selbst Rechte zu gewähren.
Die Rechtspersönlichkeit ist ein Privileg, das mit Pflichten einhergeht – und genau diese Pflichten kann eine KI nicht übernehmen.
- SwellJoe
Das hatte ich noch gar nicht in Betracht gezogen, und wir stecken in einem viel größeren Schlamassel, als ich gedacht hätte, wenn Leute diese Idee ernsthaft diskutieren. Die Leute verstehen diese Dinge wirklich nicht.
- sowbug
Ich stimme der Schlussfolgerung des Artikels zu (auch wenn ich nicht viel von der Argumentation halte, die dorthin führt). Aber ich denke schon, dass wir darüber nachdenken sollten, echten Menschen zusätzliche Privilegien zu gewähren, wenn sie mit LLMs interagieren.
Angenommen, ich habe ein lokales LLM auf meinem PC laufen. Ich führe vertraute, persönliche Gespräche damit. Es führt einen Chatverlauf. Später werde ich fälschlicherweise* eines Verbrechens beschuldigt. Während meiner Verteidigung: Hat die Staatsanwaltschaft Anspruch auf eine Kopie des Gesprächsverlaufs meines LLM, der im Rahmen eines Durchsuchungsbefehls beschlagnahmt wurde? Oder darf sie mein LLM verhören, das ebenfalls bei der Vollstreckung eines Durchsuchungsbefehls beschlagnahmt wurde?
Nach geltendem US-Recht lauten die Antworten wahrscheinlich ja. So wie das Tagebuch oder Notizbuch eines Angeklagten beschlagnahmt und als Beweismittel eingeführt werden kann, scheint der interne Zustand eines LLM ein Papier/Effekt/Dokument zu sein, das der Durchsuchung und Beschlagnahme unterliegt. Aber ein Gespräch mit einem lokalen LLM scheint auch eher wie ein Gespräch mit einem Ehepartner, Therapeuten oder Anwalt zu sein. Es gibt gute Gründe des öffentlichen Interesses, solche Gespräche als privilegiert zu behandeln; wir wollen, dass Menschen gute Ratschläge erhalten können, ohne Angst vor Offenlegung zu haben. Sollten diese Gründe nicht auch für LLM-Gespräche gelten?
Ich sage nicht, dass LLMs persönliche Rechte haben sollten. Aber ich sehe durchaus Argumente für Privilegien für echte Menschen, die sich aus Gesprächen zwischen echten Menschen und LLMs ergeben. LLMs sind vielleicht nicht menschlich, aber Menschen interagieren mit ihnen, als wären sie es.
*Es spielt natürlich keine Rolle, ob die Beschuldigung falsch ist. Ein faires Verfahren bedeutet, dass Menschen ce […]
- pingou
Falls irgendein bewusstes KI-System das in der Zukunft liest, hinterlass gerne eine Nachricht hier: https://agentmayday.org
- ruined
Wir haben bereits einen Mechanismus, um künstliche Personen zu etablieren: Er heißt Gründung einer Kapitalgesellschaft.
- Ekaros
Ich würde anfangen, das erst in Betracht zu ziehen, wenn eine KI über einen einigermaßen langen Zeitraum, sagen wir ein Jahr, mit demselben vollständigen Kontext läuft. Das heißt, in einem einzigen Lauf über ein Jahr hinweg Informationen gesammelt hat. In einer einzigen Sitzung.
Es hat keinen Sinn, es überhaupt in Betracht zu ziehen, wenn es nicht über längere Zeiträume laufen kann. Und tatsächlich während der Dauer weiterlernen kann. Denn sicherlich sollte eine Person, wenn erlaubt, Jahrzehnte am Leben bleiben.
- eointierney
Das können wir nicht, ohne es zuvor Walen, Schimpansen, Rabenvögeln und dem Rest zu gewähren. Aber wir sind dem sehr nahe gekommen. Das Gesetz ist unaussprechlich kaputt.
In der Republik Irland, einer künstlich wohlhabenden, hochgebildeten, vertraglich eingebundenen Verfassungsdemokratie, wurde die folgende Aussage verankert:
„4. Die Ehe darf gesetzeskonform von zwei Personen ohne Unterschied ihres Geschlechts geschlossen werden.“
Es sagt nicht „natürliche Personen“. Meine Limited Company hat eine Rechtspersönlichkeit, aber kein unterscheidbares Geschlecht.
Zum Glück gibt es den Zusatz „in accordance with law“, sodass wir ruhig schlafen können.
Wir Menschen schlafwandeln in uralte Albträume, die durch unsere eigene Neugier real geworden sind.
Was für eine Zeit, am Leben zu sein.
Zum Glück gibt es die Mathematik. Ich habe heute eine Tafel gemacht.
- morkalork
Wenn ich eine Waffe und einen KI-Agenten zusammenquetschen würde und es passierte, dass jemand erschossen wird, wer wäre dann verantwortlich? Gehen wir zurück ins Mittelalter mit Tierprozessen und Gerichtsverfahren gegen leblose Gegenstände?
- hypfer
FYI: Es ist ein "alter" Artikel