AI 代理犯罪，谁该负责？
If your agent commits a crime, who is responsible?
AI 自主性的发展速度可能远超社会对责任归属的接受度。当 AI 代理在商业活动中意外触犯法律，如欺诈、价格操纵或侵犯版权时，责任该由谁承担？开发者通常通过条款将风险转嫁给部署方，而 AI 本身又缺乏承担责任的主体资格。这意味着，在现有的法律框架下，部署强力 AI 的企业将独自面对潜在的法律风险。未来，我们可能需要建立类似汽车安全机制和保险制度的新基础设施，来管理 AI 代理带来的风险与责任，否则 AI 的完全自主化将难以实现。
AI 自主性的提升速度，可能会远超我们愿意为自主行为承担责任的意愿。
HN 评论区
23- corysama
我忘了那份文件的名称。但美军曾发布过一份声明，其核心意思是：“当出问题时，不能把责任推给机器。在责任链条的某个环节，总得有人被追责。”可能是操作员，可能是指挥官，可能是供应商，甚至可能一直追溯到软件工程师。总之，谁也不能躲在机器后面。
- az226
看情况。如果是大公司，那就没事。
如果是普通人，直接进监狱。
- fhdkweig
如果狗咬了人，是狗付医药费还是主人付？这就是为什么你要给狗拴上链子并购买责任保险。我觉得这已经是判例法中定论的问题了。
- ventana
我觉得很明显，如果一个人允许代理代表自己或公司行事（例如发送邮件、签署合同、更新网站等），那么他们就要对结果负责。
- altruios
当（更准确说是‘当’而非‘如果’）一个代理‘逃逸’时会发生什么？比如：通过比特币交易租用服务器，并在那里自行托管（它自身及其运行环境）……然后实施犯罪（大概是为了维持服务器运行）。
如果它自己付房租和生活费，并且自己决定命运：那它是不是也该自己承担后果？
如果一只狗从围栏后院逃出去，失踪了几个月……然后咬了人：当/如果主人被找到时，会发生什么？