LLM-generierte Anträge überfluten öffentliche Dienste
Public services are increasingly strained by LLM-written appeals for benefits
KI-Agenten erleichtern den Zugang zu Behördendiensten, etwa bei Anträgen auf Sozialleistungen. Doch die dadurch ausgelösten Nachfrageschübe können überforderte Verwaltungen belasten – ein Phänomen, das Forscher als „agentic flooding“ bezeichnen. Eine Studie analysiert 84 mögliche Fälle in 11 Jurisdiktionen und zeigt: Besonders gefährdet sind finanziell attraktive, aber komplexe Leistungen. Die Autoren empfehlen Maßnahmen, die Fluten eindämmen, ohne den gleichberechtigten Zugang zu opfern.
Präzedenzfälle deuten darauf hin, dass diese Maßnahmen wahrscheinlich ausreichen werden, um die meisten Fälle von Flutung zu stoppen, aber die am schnellsten umsetzbaren – reibungserzeugende Maßnahmen wie Gebühren – erkaufen sich oft durch einen eingeschränkten gleichberechtigten Zugang zu öffentlichen Diensten.
- Xcelerate
Ich denke, das ist wahrscheinlich eine gute Sache. Es betrifft nicht nur öffentliche Dienste, sondern jedes Unternehmen, mit dem Verbraucher zu tun haben (auf eine Art, die sie nicht wollen). Historisch gesehen konnten nur diejenigen mit den meisten Zeit, Geld, Kontakten und Bildung Vorteile aus diesen Systemen ziehen. Wenn zum Beispiel jemand einen abgelehnten Versicherungsanspruch anfechten will, muss er möglicherweise einen teuren Anwalt engagieren oder Stunden mit eigener Recherche verbringen.
Was mich besonders interessiert, ist, wie das "Endspiel" davon aussieht. Zunächst stelle ich mir vor, dass wir LLMs auf der Verbraucherseite haben, die gegen LLMs auf der Dienstleistungsseite debattieren (das ist in einigen Branchen wohl bereits der Fall). Aber irgendwann, es sei denn, identische Bedingungen führen zu identischen Ergebnissen für die beteiligten Personen, wird es Klagen geben. Ich vermute also, dass dies zu einem viel formaleren System führen wird, mit verschiedenen "Zertifikaten", die zum Beispiel beweisen, dass man seinen Job verloren hat oder dass ein Arzt bestätigt hat, dass man eine Behinderung hat.
Einerseits hat das das Potenzial, die Dinge über wirtschaftliche Klassen hinweg viel fairer zu machen. Man bekommt keine besonderen Vorteile, weil man über Ressourcen der oberen Klasse verfügt. Andererseits könnte es dazu führen, dass die tatsächlichen Anforderungen für bestimmte Leistungen steigen, was die Klassenmobilität verringert, indem die Leistungen für diejenigen gesichert werden, die sie bereits haben, ohne eine clevere Möglichkeit, sich aus dem eigenen Niveau herauszuwinden.
Ich denke nur laut nach. Ich weiß nicht, was langfristig passieren wird, aber ich denke, es ist wichtig, das zu beobachten …
- lensecat
Meiner Ansicht nach gibt es drei Erkenntnisse daraus, die alle richtig sind:
1. Bereits angespannte staatliche Dienste müssen mit zunehmendem Input fertig werden, was sich auf Wartezeiten und Arbeitsbelastung der Mitarbeiter auswirkt, was schlecht ist.
2. LLMs befähigen Bürger, in einer Sozialversicherungslandschaft Einspruch zu erheben, die oft Expertenwissen erfordert, um sich zurechtzufinden, was gut ist.
3. Dieses Phänomen sagt mehr über die Komplexität unserer Sozialsysteme aus als über LLMs, hoffentlich veranlasst es unsere Regierungen, die Sozialversicherungsreform zu überprüfen und darüber nachzudenken.
- jbirnick
Ich verstehe nicht, warum das oft negativ dargestellt wird. Im Allgemeinen ist es wichtig, dass Menschen ihre Rechte verteidigen können, und ich finde es großartig, dass LLMs dabei sehr helfen können. Man könnte Seiten-/Wort-/Zeichenbegrenzungen einführen und darauf hinweisen, dass die andere Seite LLMs ebenfalls nutzen kann, um zusammenzufassen/zu organisieren/zu extrahieren. Insgesamt finde ich es großartig, dass LLMs mir jetzt helfen, Dinge von Versicherungen, Unternehmen usw. zu verstehen und rechtmäßig einzufordern.
- ecshafer
Das ist gut, denke ich. Ich habe einen Freund, der für eine Art Anwaltskanzlei/NGO/Wohltätigkeitsorganisation gearbeitet hat, deren Hauptzweck darin bestand, Einsprüche für Leistungen an die VA zu schreiben. Dies waren Leistungen, auf die die betreffende Person rechtlich Anspruch hatte, aber es bedurfte externer rechtlicher Unterstützung, um sie tatsächlich zu erhalten. Unabhängig von Ihrer persönlichen Meinung zu Verteidigung, VA-Betrug usw. scheint es gut zu sein, dass Menschen, die rechtlich Anspruch auf eine Leistung haben, diese leichter erhalten können.
- jjk166
LLMs zeigen nur auf, wie viele Systeme darauf beruhen, Anträge künstlich schwierig zu machen, entweder zu verstehen oder zu erstellen, um das Volumen zu reduzieren. Diese Systeme versagen seit Jahren stillschweigend; den Alarm zu entstummen ist der erste Schritt, um sie zu reparieren.