AI-агенты перегружают госуслуги: исследование выявило 84 случая «флудинга»
Public services are increasingly strained by LLM-written appeals for benefits
Исследователи изучили, как AI-агенты, помогающие гражданам подавать заявления на пособия и взаимодействовать с госорганами, могут вызывать перегрузку государственных сервисов. Они собрали 84 потенциальных случая «агентного флудинга» в 11 юрисдикциях и пришли к выводу, что это явление уже широко распространено, в основном из-за дешевой генерации текста с помощью LLM. Авторы разработали матрицу рисков и выяснили, что наиболее уязвимы финансово привлекательные, но сложные услуги. Они также проанализировали возможные меры противодействия, предупредив, что быстрые решения, такие как введение пошлин, могут ограничить равный доступ к услугам.
Прецеденты показывают, что таких мер, скорее всего, будет достаточно для предотвращения большинства случаев флудинга, но самые быстрые в развертывании — меры, создающие трения, такие как пошлины, — часто ставят под угрозу равный доступ к государственным услугам.