La IA generativa inunda los servicios públicos: 84 casos en 11 jurisdicciones
Public services are increasingly strained by LLM-written appeals for benefits
Un estudio de arXiv documenta cómo los agentes de IA, especialmente los que usan LLM para redactar solicitudes de beneficios, están generando una 'inundación' de trámites que satura los servicios gubernamentales. Los autores identifican 84 casos potenciales en 11 jurisdicciones y desarrollan una matriz de riesgo que muestra que los servicios financieramente atractivos pero complejos son los más expuestos. Proponen respuestas gubernamentales, advirtiendo que las medidas rápidas, como las tarifas, pueden comprometer el acceso equitativo.
La evidencia sugiere que la inundación probablemente está ocurriendo ampliamente hoy, principalmente a través de modelos de lenguaje grandes (LLM) que generan texto de forma barata.
- Xcelerate
Creo que esto probablemente es algo bueno. No se trata solo de los servicios públicos, sino de cualquier empresa con la que los consumidores tengan que tratar (de maneras que no desean). Históricamente, solo aquellos con más tiempo, dinero, contactos y educación han podido obtener beneficios de estos sistemas. Por ejemplo, si alguien quiere impugnar una reclamación de seguro denegada, podría necesitar contratar a un abogado caro o pasar horas investigando por su cuenta.
Lo que me resulta particularmente curioso es cómo será el "final del juego" de esto. Inicialmente, imagino que comenzaremos con LLMs en el lado del consumidor debatiendo con LLMs en el lado del servicio (esto ya es discutiblemente el caso en algunas industrias). Pero en algún momento, a menos que condiciones idénticas conduzcan a resultados idénticos para las personas involucradas, habrá demandas. Así que sospecho que esto conducirá a un sistema mucho más formalmente riguroso con varios "certificados" que demuestren, por ejemplo, que perdiste tu trabajo o que un médico ha confirmado que tienes una discapacidad.
Por un lado, eso tiene el potencial de hacer las cosas mucho más justas entre clases económicas. No obtienes beneficios especiales por tener recursos de clase alta. Por otro lado, podría llevar a aumentar los requisitos reales para ciertos beneficios, lo que reduce la movilidad de clase al fijar los beneficios a aquellos que ya los tienen, sin una forma inteligente de escapar de tu propio nivel.
Solo estoy pensando en voz alta. No sé qué sucederá a largo plazo, pero creo que es importante monitorear...
- lensecat
En mi opinión, hay tres conclusiones de esto, todas correctas:
1. Los servicios gubernamentales ya sobrecargados necesitan soportar una entrada creciente, lo que afecta los tiempos de espera y la carga de trabajo de los empleados, lo cual es malo.
2. Los LLMs están empoderando a los ciudadanos para apelar en un panorama de seguridad social que a menudo requiere conocimiento experto para navegar, lo cual es bueno.
3. Este fenómeno dice más sobre la complejidad de nuestros sistemas de seguridad social que sobre los LLMs, con suerte impulsando a nuestros gobiernos a revisar y comenzar a pensar en una reforma de la seguridad social.
- jbirnick
No entiendo por qué esto a menudo se presenta de manera negativa. En general, es importante que las personas puedan defender sus derechos, y me parece genial que los LLMs puedan ayudar mucho con eso. Se podrían introducir límites de páginas/palabras/caracteres, y notar que la otra parte también puede usar LLMs para resumir/organizar/extraer. En general, creo que es genial que los LLMs ahora me ayuden a entender y reclamar legítimamente cosas de seguros, empresas, etc.
- ecshafer
Creo que esto es bueno. Tengo un amigo que trabajó para una especie de bufete de abogados / ONG / organización benéfica, cuyo propósito principal era redactar apelaciones para beneficios del VA. Estos eran beneficios a los que la persona en cuestión tenía derecho legalmente, pero que requerían asistencia legal externa para realmente obtenerlos. Independientemente de tu opinión personal sobre la defensa, el fraude del VA, etc., parecería bueno que las personas que tienen derecho legal a un beneficio puedan obtenerlo más fácilmente.
- jjk166
Los LLMs solo están revelando cuántos sistemas dependen de hacer las solicitudes artificialmente difíciles, ya sea de entender o de generar, para reducir el volumen. Estos sistemas han estado fallando silenciosamente durante años; desmutear la alarma es el primer paso para arreglarlos.