Fair Work Commission verurteilt 'eindeutig falsche' KI-Rechtsberatung
Fair Work Commission condemns 'plain wrong' AI legal advice
Ein entlassener ALDI-Mitarbeiter muss 1.230 Dollar Anwaltskosten zahlen, nachdem die Fair Work Commission seine KI-generierte Rechtsberatung als 'eindeutig falsch' verurteilt hat. Sadnan Khan hatte ChatGPT als 'Quasi-Rechtsberater' genutzt, um seine Kündigung anzufechten, obwohl mehrfach gewarnt wurde, dass sein Fall keine Aussicht auf Erfolg habe. Der Fall zeigt den Anstieg von KI-gestützten Klagen vor dem Tribunal. Währenddessen gelang es dem Informatikdozenten Gregory Baker als erstem, mit einem Team von KI-Agenten erfolgreich ein Arbeitsgesetz anzufechten. Die Kommission führt neue Regeln ein, die ab Oktober die Offenlegung von KI-Nutzung vorschreiben.
„Wenn Mr. Khan seine eigenen KI-generierten Antworten richtig gelesen hätte … hätte er gewusst, dass sein Fall zum Scheitern verurteilt war.“
- cjs_ac
> Ein entlassener ALDI-Mitarbeiter, der von der Fair Work Commission verurteilt wurde, weil er in seinem gescheiterten Versuch, seine Entlassung rückgängig zu machen, eine "eindeutig falsche" KI-Rechtsberatung verwendet hatte, sagt nun, er plane, "zwei oder drei" verschiedene KI-Agenten zu nutzen, um gegen die Entscheidung Berufung einzulegen.
> Sadnan Khan wurde dazu verurteilt, 1.230 Dollar zu den Anwaltskosten des Supermarktriesen beizutragen, nachdem eine wegweisende Entscheidung der Fair Work Commission festgestellt hatte, dass er KI als "Quasi-Rechtsberater" eingesetzt hatte, um seine Entlassung anzufechten, trotz wiederholter Warnungen, dass sein Fall "keine wesentlichen Erfolgsaussichten" habe.
> "Ich habe den sehr seltenen Schritt unternommen, ihn zur Zahlung eines Teils der Anwaltskosten des Arbeitgebers zu verurteilen, weil sein unangemessenes Verhalten dazu führte, dass sein früherer Arbeitgeber diese Kosten unnötigerweise auf sich nehmen musste", sagte der stellvertretende Präsident der Fair Work Commission, Michael Easton, in der Entscheidung des Tribunals letzte Woche.
Der Artikel ist ausgewogen; er zitiert auch den Fall eines Informatikdozenten an der Macquarie University, der die Behandlung durch die Universität mithilfe von KI erfolgreich angefochten hat. (In den letzten zehn Jahren oder so hat sich Mac Uni sehr stark mit der Idee angefreundet, dass der Mindestlohn für akademisches Personal ausreicht.)
Es ist also dieselbe Geschichte, die wir seit über einem Jahr hören: LLMs sind nur nützlich, wenn man den ganzen Schnickschnack ignoriert, in dem sie einem sagen, wie großartig alles ist, und wenn man weiß, wie man die Teile extrahiert und interpretiert, in denen sie etwas Substanzielles sagen, und tatsächlich die Arbeit macht, herauszufinden, ob das Ding einen verarscht.
- simonw
Ich habe dieses formelle Entscheidungs-PDF für den Fall Khan gefunden: https://fwcgovau.sharepoint.com/teams/group252c29c/_layouts/...
Wichtiger Abschnitt:
> Zwei Tage nachdem Herr Khan seine Klage eingereicht hatte, schickten Mitarbeiter der Fair Work Commission Herrn Khan eine E-Mail mit dem Hinweis, dass die Kommission möglicherweise nicht befugt sei, sich mit seinem Fall zu befassen, da er die Mindestbeschäftigungsdauer nicht erfüllt habe. [...]
> Am Morgen des Freitags, 31. Juli 2026, nahm ich mir die Zeit, Herrn Khan zu schreiben und ihm in einfachem Englisch zu erklären, warum sein Fall wahrscheinlich keinen Erfolg haben würde. Herr Khan wurde ermutigt, seinen Antrag zurückzuziehen, und darauf hingewiesen, dass es Kostenfolgen haben könnte, wenn er seine Klage nicht zurückziehe. [...]
> Khan schickte noch am selben Morgen eine Antwort-E-Mail. Herrn Khans KI-generierte E-Mail sprach erneut das falsche Enddatum an und wiederholte dieselben irrelevanten KI-generierten Argumente. Herrn Khans E-Mail ging überhaupt nicht auf die in der früheren E-Mail der Kommission angesprochenen Punkte ein.
- dgellow
> Von der Arbeitsplatz-Schiedsstelle in Auftrag gegebene Forschung zeigt, dass ihre Fälle kürzlich um 40 Prozent gestiegen sind, teilweise aufgrund von Prozessparteien, die KI nutzen.
Ein Gedanke, den ich kürzlich zum KI-Rollout hatte: Es ist eine so massiv unausgewogene Wette. Wir erleben gerade die negativen Aspekte von KI, wir bezahlen dafür. Für die Chance, dass vielleicht eine hypothetische, sci-fi-artige Technologie in der Zukunft existiert. Wir wissen also, dass wir immer das verlierende Ende der Wette erleben werden, und wir haben keine Ahnung, ob wir gewinnen werden, oder wie ein Gewinn überhaupt aussehen würde.
In diesem Beispiel sehen wir, wie die Kommission unter Druck steht, etwas, das wir überall sehen, und die Vorteile waren bisher, dass Software und E-Mails schneller geschrieben werden, und vielleicht kommt irgendwann in der Zukunft noch etwas mehr (von dem wir auch wissen, dass es seine eigenen externen Effekte haben wird).
Es ist wahnsinnig, dass so eine kleine Gruppe entscheiden kann, dieses Glücksspiel für den Rest der Gesellschaft zu spielen, weltweit.
- cube00
> Das Tribunal erkannte an, dass KI den Zugang zur Justiz für Antragsteller mit echten, berechtigten Ansprüchen verbessert, "die sonst möglicherweise abgeschreckt worden wären".
Es ist gut, dass das Tribunal anerkennt, dass wir uns nicht unbedingt alle die Kosten leisten können, die bei diesen ersten Gesprächen mit einem Anwalt anfallen können. Obwohl es Pro-bono-Anwälte gibt, müssen sie sicherstellen, dass sie die Fälle mit den besten Erfolgsaussichten übernehmen, damit sie nicht selbst in Konkurs gehen.
> "Den meisten Mitgliedern der Gemeinschaft ist diese Art von Eigenschaft von KI jetzt bewusst, wo sie eine Art unterwürfige Tendenz hat ... und die Leute tatsächlich dazu ermutigen kann zu glauben, dass ihre Klage Aussicht auf Erfolg hat, wenn das vielleicht nicht der Fall ist."
Es wird interessant sein zu sehen, wie die KI-Anbieter das Bedürfnis der Modelle ausbalancieren werden, ansprechend genug zu sein, um die Token am Fließen zu halten, aber nicht so ansprechend, dass sie schlechte Ratschläge geben, um fortgesetzte Gespräche zu fördern.
- solresol
Der zweite im Artikel erwähnte Fall ist interessant, weil noch kein anderer Fall zur Wahl des Arbeitnehmers in der Sache verhandelt worden war.
Somit könnte es das erste Beispiel dafür sein, dass KI einen Fall gewinnt, der eine Art Präzedenzfall schafft.
Zumindest zeigt es, dass KI kohärente rechtliche Argumente zusammenstellen kann, selbst wenn es keine nahen Präzedenzfälle oder Fallrecht gibt, auf die sie sich beziehen kann. Das war etwas, von dem viele Anwälte nicht glaubten, dass KI es tun könnte.