LLM 泛滥：政府服务正遭 AI 申请冲击
Public services are increasingly strained by LLM-written appeals for benefits
AI 代理本意是降低公众与政府互动的门槛，协助申请福利或解读政策，却意外引发了“代理洪水”现象。这项基于 11 个司法管辖区 84 个潜在案例的研究指出，LLM 正在低成本地生成大量申请文本，导致政府服务不堪重负。风险矩阵分析显示，那些福利金额高但流程复杂的公共服务最易受冲击。虽然政府可采取收费等增加摩擦的措施来应对，但这往往以牺牲公平性为代价。研究建议政府需寻找既能缓解洪水又不损害公共服务的平衡方案。
快速部署的应对措施，如增加费用的摩擦性手段，往往以牺牲公共服务的公平获取为代价。
HN 评论区
84- Xcelerate
我觉得这大概率是件好事。受影响的不仅仅是公共服务，而是任何消费者不得不与之打交道（且往往并非自愿）的公司。历史上，只有那些拥有最多时间、金钱、人脉和受教育机会的人，才能从这些系统中攫取利益。例如，如果有人想推翻保险公司的拒赔决定，他们可能需要聘请昂贵的律师，或者花几个小时自己做研究。
我特别好奇的是，这场博弈的“终局”会是什么样子。起初，我想象我们会看到消费者端的 LLM 与服务端的 LLM 相互辩论（事实上，在某些行业这已经发生了）。但到了某个节点，除非相同的条件总能给当事人带来相同的结果，否则诉讼在所难免。因此，我怀疑这将导致一个更加形式严谨的体系，出现各种“证书”来证明，例如你失业了，或者医生确认你患有残疾。
一方面，这有可能让不同经济阶层之间的待遇更加公平。你无法再凭借上层阶级的资源获取特殊福利。另一方面，这也可能导致某些福利的实际门槛提高，进而通过锁定既得利益者来降低阶层流动性，让人再也找不到什么巧妙的办法跳出自己原本的阶层。
我只是在自言自语。我不知道长期来看会发生什么，但我觉得持续监控这一趋势很重要 […]
- lensecat
在我看来，这件事有三个要点，且都是正确的：
1. 本已紧张的政府服务需要承受越来越多的输入量，这将影响等待时间和员工的工作负荷，这是坏事。
2. LLM 正在赋能公民，让他们能在一个通常需要专家级知识才能 navigate 的社会福利体系中提出申诉，这是好事。
3. 这一现象更多地反映了我们社会福利体系的复杂性，而非 LLM 本身的问题，希望它能促使各国政府重新审视并开始思考社会福利改革。
- jbirnick
我不明白为什么这通常被描绘成负面现象。总的来说，人们能够捍卫自己的权利很重要，而 LLM 在这方面能提供巨大帮助，我觉得这很棒。我们可以引入页数/字数/字符数限制，并指出对方也可以使用 LLM 来总结、整理或提取信息。总体而言，我认为 LLM 现在能帮我理解并正当主张来自保险公司、公司等机构的权益，这非常棒。
- ecshafer
我觉得这是好事。我有个朋友曾在一家律师事务所/非政府组织/慈善机构工作，其主要职责是为退伍军人事务部（VA）撰写福利申诉书。这些福利是当事人依法应得的，但需要外部法律协助才能真正获得。无论你个人对国防、VA 欺诈等问题持何种看法，让那些依法享有福利的人更容易获得这些福利，似乎都是好事。
- jjk166
LLM 只是揭露了许多系统如何依赖人为制造申请难度——无论是理解难度还是生成难度——来减少申请量。这些系统多年来一直在静默失效，而让警报声重新响起，正是修复它们的第一步。