LLM이 작성한 복지 신청 급증, 공공 서비스에 '에이전트 홍수' 우려
Public services are increasingly strained by LLM-written appeals for benefits
AI 에이전트가 복지 신청, 정책 이해, 의견 표명 등 공공 서비스 이용을 돕는 사례가 늘면서, 대규모 언어 모델(LLM)이 저비용으로 텍스트를 생성해 서비스 수요가 급증하는 '에이전트 홍수(agentic flooding)' 현상이 현실화되고 있다는 연구가 나왔다. 연구진은 11개 관할권에서 84건의 잠재적 홍수 사례를 수집해 분석했으며, 특히 재정적 매력이 크지만 복잡한 서비스가 가장 큰 위험에 노출됐다고 지적한다. 정부의 대응 방안으로는 수수료 부과 같은 마찰 유발 조치가 가장 빠르지만, 이는 공공 서비스의 형평성을 해칠 수 있다. 연구는 이러한 상충 관계 없이 홍수를 완화할 수 있는 단기적 조치를 제안한다.
가장 빠르게 도입할 수 있는 대응책인 수수료 부과와 같은 마찰 유발 조치는 종종 공공 서비스에 대한 공평한 접근을 희생시킨다.
HN 토론
84- Xcelerate
저는 이것이 아마 좋은 일이라고 생각합니다. 공공 서비스뿐만 아니라 소비자가 원하지 않는 방식으로 상대해야 하는 모든 회사에도 해당됩니다. 역사적으로, 가장 많은 시간, 돈, 인맥, 교육을 가진 사람들만이 이러한 시스템에서 혜택을 얻을 수 있었습니다. 예를 들어, 보험 청구가 거부된 것에 대해 이의를 제기하려면 값비싼 변호사를 고용하거나 직접 조사에 몇 시간을 써야 할 수도 있습니다.
특히 궁금한 점은 이것의 '최종 단계'가 어떻게 될 것인가입니다. 처음에는 소비자 측 LLM이 서비스 측 LLM과 논쟁하는 것으로 시작될 것이라고 상상합니다(이미 일부 산업에서는 그런 경우가 있다고 볼 수 있습니다). 그러나 어느 시점에서는, 관련된 사람들에게 동일한 조건이 동일한 결과를 초래하지 않는 한 소송이 제기될 것입니다. 그래서 저는 이것이 직장을 잃었거나 의사가 장애를 확인했다는 등의 '증명서'를 요구하는 훨씬 더 공식적이고 엄격한 시스템으로 이어질 것이라고 생각합니다.
한편으로는 경제적 계층 간에 훨씬 더 공정해질 가능성이 있습니다. 상류층 자원을 가졌다고 특별한 혜택을 받지는 않을 테니까요. 반면에 특정 혜택에 대한 실제 요건이 강화되어, 이미 혜택을 받고 있는 사람들에게 혜택이 고정되고 자신의 수준에서 벗어날 교묘한 방법이 없어져 계층 이동성이 감소할 수 있습니다.
그냥 생각을 정리해 본 것입니다. 장기적으로 어떻게 될지는 모르지만, 모니터링하는 것이 중요하다고 생각합니다 [...]
- lensecat
제 생각에는 여기서 세 가지 시사점을 얻을 수 있는데, 모두 맞는 말입니다:
1. 이미 과부하 상태인 정부 서비스는 증가하는 입력을 처리해야 하며, 대기 시간과 직원 업무량에 영향을 미치는데, 이는 나쁜 것입니다.
2. LLM은 종종 전문가 수준의 지식이 필요한 사회 보장 제도를 탐색하는 시민들의 이의 제기를 가능하게 하고 있는데, 이는 좋은 것입니다.
3. 이 현상은 LLM에 대한 것보다 우리 사회 보장 시스템의 복잡성에 대해 더 많이 말해 주며, 정부가 사회 보장 개혁을 검토하고 고민하기 시작하길 바랍니다.
- jbirnick
왜 이것이 부정적으로 묘사되는지 이해할 수 없습니다. 일반적으로 사람들이 자신의 권리를 방어할 수 있는 것이 중요하며, LLM이 그런 면에서 많은 도움을 줄 수 있다는 점이 훌륭하다고 생각합니다. 페이지/단어/문자 수 제한을 도입하고 상대방도 LLM을 사용하여 요약/정리/추출할 수 있다는 점을 명시할 수 있습니다. 전반적으로 LLM이 이제 보험, 회사 등으로부터 내 권리를 이해하고 정당하게 주장하는 데 도움을 준다는 것이 정말 좋다고 생각합니다.
- ecshafer
저는 이것이 좋은 일이라고 생각합니다. 제 친구가 법률 회사/NGO/자선 단체에서 일했는데, 그곳의 주요 목적은 VA에 혜택 청구에 대한 항소를 작성하는 것이었습니다. 이는 해당 개인이 법적으로 받을 자격이 있지만 실제로 받으려면 외부 법적 지원이 필요한 혜택이었습니다. 국방, VA 사기 등에 대한 개인적인 의견과 관계없이, 법적으로 혜택을 받을 자격이 있는 사람들이 더 쉽게 혜택을 받을 수 있게 되는 것은 좋은 일로 보입니다.
- jjk166
LLM은 단지 많은 시스템이 신청을 인위적으로 어렵게 만들어(이해하거나 생성하기 어렵게) 수요를 줄이는 데 의존하고 있음을 드러내고 있을 뿐입니다. 이러한 시스템은 수년간 조용히 실패해 왔으며, 경보를 해제하는 것이 이를 고치는 첫 걸음입니다.