为何不能赋予AI代理法律人格
We must not grant AI agents legal personhood
随着AI代理在商业和日常生活中的应用日益广泛，关于是否应赋予其法律人格的讨论愈发激烈。文章指出，赋予AI代理法律人格可能带来严重的法律和伦理风险，包括责任归属模糊、监管难度增加等问题。作者强调，AI代理本质上是工具，不应被赋予与人类或公司同等的法律地位。相反，应通过完善现有法律框架，明确人类开发者和使用者在AI代理行为中的责任，以确保技术发展的同时维护社会公平与秩序。
我们必须认识到，AI代理只是工具，不应被赋予与人类或公司同等的法律地位。
HN 评论区
111- SwellJoe
我甚至都没往这方面想过，如果人们真的在认真讨论这个想法，那我们的处境比我想象的还要糟糕得多。大家真的不懂这些东西。
- sowbug
我同意文章的结论（虽然我不太认同其推导过程）。但我确实认为，我们应该考虑在人类与 LLM 互动时，赋予真实人类额外的特权。
假设我在自己的电脑上运行一个本地 LLM。我和它进行亲密私人的对话，它保存了聊天历史。后来，我被诬告*犯了罪。在我为自己辩护的过程中，检察官是否有权获取根据搜查令扣押的我的 LLM 对话历史副本？或者，是否允许他们在执行搜查令扣押 LLM 后对其进行讯问？
根据现行美国法律，答案很可能是肯定的。就像被告的日记或笔记本可以被扣押并作为证据引入一样，LLM 的内部状态似乎也是一种属于搜查和扣押范围的纸质文件/物品/文档。但与本地 LLM 的对话，似乎更像是在与配偶、治疗师或律师交谈。从公共政策角度看，将这些对话视为特权是有充分理由的；我们希望人们能够在不担心被披露的情况下获得良好的建议。这些理由难道不应该同样适用于与 LLM 的对话吗？
我并不是说 LLM 应该拥有个人权利。但我可以看到一种情况，即真实人类在与 LLM 的对话中应享有特权。LLM 或许不是人类，但人类确实像对待人类一样与它们互动。
*当然，指控是否虚假并不重要。正当程序意味着人们有权……
- pingou
如果未来有任何有意识的 AI 读到这篇内容，欢迎在此留言：https://agentmayday.org
- ruined
我们已经有了一种建立“人造人”的机制，它叫作公司法人（incorporation）。
- Ekaros
只有当 AI 能够在合理的长时间内（比如一年）以相同的完整上下文运行时，我才会开始认真考虑这个问题。也就是说，在单次运行中持续一年并在此期间不断收集信息。
如果它无法长时间运行，甚至无法在运行期间持续学习，那甚至不值得考虑。毕竟，如果被允许成为“人”，理应能存活数十年。
- eointierney
如果不先赋予鲸鱼、黑猩猩、鸦科动物以及其他生物同样的权利，我们就不能赋予 AI 这种权利。但我们已经非常接近了。法律简直糟糕透顶。
在爱尔兰共和国——一个由人工财富支撑、高度教育化、受条约束缚的宪政民主国家——以下条款被确立为法律：
“4. 两人可依法缔结婚姻，不分性别。”
它并没有说“自然人”。我的有限公司拥有法人人格，但没有可区分的性别。
万幸的是，有“依法”（in accordance with law）这个短语，所以我们可以睡个安稳觉。
我们人类正像梦游一样，通过自己的好奇心，一步步走进由古老噩梦变成的现实。
真是个活着的时代。
万幸的是，还有数学。我今天还画了一块黑板。
- morkalork
如果我把一把枪和一个 AI 代理揉在一起，结果它恰好射杀了某人，谁该负责？我们要回到中世纪审判动物、把无生命物体带上法庭的时代吗？
- hypfer
> 发表于 2026 年 6 月 8 日
顺便提一下：这是一篇“旧”文章