Gericht: Der 4. Zusatzartikel deckt keine KI-generierte „probable cause“

Court: 4th Amendment Disallows Use Of AI-Generated 'Probable Cause'

Gericht: Der 4. Zusatzartikel deckt keine KI-generierte „probable cause“

Ein Detective der Florence PD in Kentucky ließ einen Gesichtsabgleich per KI laufen, erklärte den Treffer für belastbar und ließ Alain Osorio aus Nebraska nach Kentucky ausliefern – obwohl dieser nachweislich zur Tatzeit arbeitete. Das Gericht stellt klar: Der 4. Zusatzartikel verbietet es, die Prüfung von probable cause an eine KI zu delegieren, und ein vernünftiger Ermittler hätte das wissen müssen. Damit entfällt auch die qualified immunity.

Der 4. Zusatzartikel der Verfassung der Vereinigten Staaten erlaubt es einem Detective nicht, die Aufgabe der Beurteilung von probable cause an KI zu delegieren. Mit anderen Worten: Der 4. Zusatzartikel gestattet es nicht, dass eine Person allein auf Grundlage einer unbestätigten Schlussfolgerung einer KI festgenommen wird, die betreffende Person habe eine Straftat begangen. Und kein vernünftiger Detective in der Position des Beklagten könnte zu einem anderen Ergebnis kommen.
  1. jp57

    Ich weiß, dass es aus der ursprünglichen Schlagzeile stammt, aber ich finde, „deckt nicht ab“ ist eine verwirrende Formulierung. Der Artikel meint, dass der vierte Zusatzartikel die Verwendung von KI-generierter „probable cause“ untersagt.

    Ein Zitat des Gerichts (erneut zitiert aus dem Artikel):

    „Der vierte Zusatzartikel zur Verfassung der Vereinigten Staaten erlaubt es einem Detective nicht, die Aufgabe der Beurteilung von „probable cause“ an KI zu delegieren. Mit anderen Worten: Der vierte Zusatzartikel gestattet es nicht, dass eine Person allein auf der Grundlage einer unbestätigten Schlussfolgerung der KI, dass die betreffende Person eine Straftat begangen habe, verhaftet wird. Und kein vernünftiger Detective in der Position des Angeklagten könnte zu einem anderen Schluss kommen.“

    Die Verwendung von „abdecken“ erscheint mir hier seltsam, da der vierte Zusatzartikel staatliches Handeln verbietet; ich würde Handlungen, die nicht „abgedeckt“ sind, als nicht verboten und daher erlaubt interpretieren.

  2. jawns

    Die richtige Art, dieses Urteil zu interpretieren, ist, dass eine eidesstattliche Erklärung über „probable cause“ Beweise dafür liefern muss, dass eine Person eine Straftat begangen hat, und dass die Ausgabe eines Modells kein Beweis ist; sie ist eher ein Ermittlungsinstrument.

    Fotografien, Zeugenaussagen, direkte Beobachtungen, am Tatort gefundene physische Gegenstände sind alles Beweise: Sie helfen, Fragen zu beantworten wie „War diese Person am Tatort anwesend?“ oder „Hat diese Person die Handlungen vorgenommen, die ihr vorgeworfen werden?“

    Ein Machine-Learning-Modell, selbst ein sehr ausgeklügeltes, ist im Kern wirklich eine Wahrscheinlichkeitsmaschine. Es kann dir vielleicht helfen, zwei Fotografien zu finden, die sehr ähnlich aussehen, aber es stellt nicht unabhängig fest, dass die Personen auf diesen Fotografien tatsächlich dieselbe Person sind. Ebenso kann ein KI-Modell dir helfen, die Ähnlichkeit von Sprachmustern oder Schreibstilen zu bestimmen, aber diese Ähnlichkeitswerte sagen dir nicht wirklich, ob eine Audio- oder Textprobe von derselben Person stammt.

    Die Person, die die eidesstattliche Erklärung einreicht, bürgt für die Vernünftigkeit der von ihr vorgelegten Fakten, und daher benötigt jeder probabilistische Beweis eine menschliche Beurteilung.

    Die falsche Art, dieses Urteil zu interpretieren, ist, dass KI niemals als Ermittlungsinstrument zur Feststellung von „probable cause“ verwendet werden kann. Ein Detective kann sicherlich einen Algorithmus verwenden, der eine Gesichtserkennungsdatenbank oder eine Fingerabdruckdatenbank durchsucht, um potenzielle Verdächtige zu identifizieren. Aber dann muss er etwas anderes tun, um festzustellen, ob die Modellausgabe tatsächlich mit dem Gesicht übereinstimmt […]

Mehr von diesem Tag

2026-11-20