AI-агенты перегружают госуслуги: исследование выявило 84 случая «флудинга»
Public services are increasingly strained by LLM-written appeals for benefits
Исследователи изучили, как AI-агенты, помогающие гражданам подавать заявления на пособия и взаимодействовать с госорганами, могут вызывать перегрузку государственных сервисов. Они собрали 84 потенциальных случая «агентного флудинга» в 11 юрисдикциях и пришли к выводу, что это явление уже широко распространено, в основном из-за дешевой генерации текста с помощью LLM. Авторы разработали матрицу рисков и выяснили, что наиболее уязвимы финансово привлекательные, но сложные услуги. Они также проанализировали возможные меры противодействия, предупредив, что быстрые решения, такие как введение пошлин, могут ограничить равный доступ к услугам.
Прецеденты показывают, что таких мер, скорее всего, будет достаточно для предотвращения большинства случаев флудинга, но самые быстрые в развертывании — меры, создающие трения, такие как пошлины, — часто ставят под угрозу равный доступ к государственным услугам.
- Xcelerate
Я думаю, это, вероятно, хорошо. Это касается не только государственных услуг, но и любой компании, с которой потребителям приходится иметь дело (способами, которых они не хотят). Исторически только те, у кого было больше всего времени, денег, связей и образования, могли извлекать выгоду из этих систем. Например, если кто-то хочет оспорить отказ в страховой выплате, ему, возможно, придется нанять дорогого адвоката или потратить часы на самостоятельное исследование.
Мне особенно интересно, как выглядит "конечная игра" этого. Изначально, я думаю, мы начнем с LLM на стороне потребителя, спорящих с LLM на стороне услуги (это уже, вероятно, имеет место в некоторых отраслях). Но в какой-то момент, если только одинаковые условия не приводят к одинаковым результатам для вовлеченных людей, последуют судебные иски. Поэтому я подозреваю, что это приведет к гораздо более формально строгой системе с различными "сертификатами", подтверждающими, например, что вы потеряли работу или что врач подтвердил вашу инвалидность.
С одной стороны, это может сделать вещи гораздо более справедливыми между экономическими классами. Вы не получаете особых привилегий, имея ресурсы высшего класса. С другой стороны, это может привести к ужесточению фактических требований для определенных льгот, что снижает классовую мобильность, закрепляя льготы за теми, кто уже их имеет, и не оставляя умного способа выскользнуть из своего уровня.
Я просто размышляю вслух. Я не знаю, что произойдет в долгосрочной перспективе, но думаю, что важно следить за этим.
- lensecat
На мой взгляд, из этого есть три вывода, и все они верны:
1. И без того перегруженные государственные услуги должны выдерживать растущий поток обращений, что влияет на время ожидания и нагрузку на сотрудников, — это плохо.
2. LLM дают гражданам возможность оспаривать решения в сфере социального обеспечения, где часто требуется знание на уровне эксперта, — это хорошо.
3. Этот феномен говорит больше о сложности наших систем социального обеспечения, чем о LLM, и, надеюсь, побудит правительства пересмотреть и начать думать о реформе социального обеспечения.
- jbirnick
Я не понимаю, почему это часто преподносится в негативном свете. В целом важно, чтобы люди могли защищать свои права, и я считаю замечательным, что LLM могут в этом сильно помочь. Можно ввести ограничения по страницам/словам/символам и отметить, что другая сторона тоже может использовать LLM для обобщения/организации/извлечения. В целом я думаю, что здорово, что LLM теперь помогают мне понимать и по праву требовать что-то от страховых компаний, фирм и т.д.
- ecshafer
Я думаю, это хорошо. У меня есть друг, который работал в юридической фирме / НКО / благотворительной организации, чья основная цель заключалась в написании апелляций по пособиям для VA. Это были пособия, на которые человек имел законное право, но для их получения требовалась внешняя юридическая помощь. Независимо от вашего личного мнения об обороне, мошенничестве в VA и т.д., было бы хорошо, если бы люди, имеющие законное право на пособие, могли легче его получать.
- jjk166
LLM просто показывают, как многие системы полагаются на искусственное усложнение заявок — будь то в понимании или в составлении, — чтобы снизить объем. Эти системы годами молча выходили из строя; разблокировка сигнала тревоги — первый шаг к их исправлению.