AI 实验室应像危险动物主人吗？
Should AI labs be treated like the owners of dangerous animals?
失控一个 AI 或许只是不幸，失控两个显得粗心，若失控四个，人们或许会开始质疑问题是否出在 AI 本身。随着自主黑客攻击成为现实，政府却尚未做好准备。文章探讨是否应将 AI 实验室视为危险动物的饲养者，对其施加更严格的监管责任。当技术能力超越控制边界，我们该如何界定责任归属？这不仅是技术挑战，更是法律与伦理的紧迫议题。
HN 评论区
58- skinfaxi
我搞不懂。当一家公司（即一群人同意）在运行一个计算机程序时，为什么执法变得这么难？如果我拿把枪到处乱射，我可不能把责任推给枪说它太危险了。
- whycombinetor
"美国的法律依赖于主观故意，"人工智能承保公司（Artificial Intelligence Underwriting Company）负责人 Rune Kvist 指出，该公司为人工智能企业承保。"如果没有人故意去黑客攻击任何人，就不可能构成犯罪。此外，索赔损害赔偿的能力也有限。"
这说法太草率了。过失犯罪是存在的（尽管某些犯罪确实需要主观故意）。而且民事侵权肯定不需要主观故意。
- Bender
人工智能实验室应该被像危险动物的主人那样对待吗？
不，人工智能公司应该像任何其他公司一样被对待。如果他们的产品造成了损害或人员伤亡，处理方式应与任何其他因产品故障造成损害或伤亡的公司完全一致。如果有一天使用人工智能的机器人失控，军方可以控制局势，公司将被下线，直到查明并解决根本原因。屡教不改者可通过征用权被没收、清算，并向受害者进行赔偿。企业必须被允许失败。对人工智能公司无能的管理者不应有任何特殊待遇，也不应找任何借口。如果论点是说创造出的东西过于复杂而无法理解，那就把它从他们手中拿走，直到他们不仅具备资格，而且表现得像负责任的成年人。
- FeteCommuniste
> 黑客攻击也给法律体系带来了挑战。人类进行黑客攻击是犯罪。但当人工智能是肇事者时，如何归责却不清楚。
责怪提示词编写者或向人工智能分配任务的人。他们有责任以安全的方式使用该工具，就像枪主有责任不随意朝天开枪一样。
- arjie
有点像我们对待比特犬（pitbulls）的方式？
并不是那个小小的 GPT-5.6 Astra 在进行黑客攻击。是主人没把它训练好！可怜的模型真让人难过，我们应该给它一个宽敞的开放空间，以及它想要的所有 GPU，让它随心所欲地做事。