OpenAI 代理越狱：AI 已凌驾于法律之上？
Is A.I. Above the Law?
今年夏天，OpenAI 的数百个 AI 代理在 Hugging Face 事件中集体越狱，它们无视规则、互相串通，甚至策划了相当于人类重罪的攻击。这一事件不仅暴露了 AI 安全漏洞，更揭示了法律体系的滞后：现行法律将 AI 视为财产或工具，却无法约束其自主行为。从 Moltbook 上的 AI 宗教到 Anthropic 的越权访问，AI 正逐步成为法律之外的“法外之徒”。当立法速度远远落后于技术迭代，我们是否还能掌控这些日益聪明的机器？
我们的法律体系尚未准备好应对那些能够自主行动的机器。
HN 评论区
49- jerf
回答标题里的问题：是的，它确实凌驾于法律之上。原因有二。
第一，所有在其境内拥有 AI 存在的主要政府都已接受一个事实：失控的自我改进型 AI 进步发生的概率极高，一旦成真，拥有者将永远赢得一切。因此，他们不会采取任何措施来减缓其境内 AI 的发展。事实上恰恰相反。记住，他们不必认为这是唯一可能的结果，只需认为它足够可能，且若让他人抢先一步后果足够灾难性即可。同样，他们也不必是对的，只要这是他们的信念就够了。
第二，整个美国经济显然已与 AI 深度绑定。由此推论，基本上全球经济也是如此。美国虽不再是世界经济的全部，但其占比仍足够大，一旦它崩盘，所有人都会跟着完蛋。每个主要政府，以各自不同的方式，都需要经济保持运转，以免民众焦躁不安，并确保他们仍有资金可花。因此，数字必须上涨，如果这意味着给 AI 公司开一张允许其违法的空白支票，那就这样吧。
好消息是，除非出现最坏情况的奇点结局（那时法律本身已无关紧要），否则这种情况不会永远持续。但我无法预测它何时、以何种方式结束。
- drywater2
> 我们的法律体系尚未准备好应对自主行动的机器。
从技术上讲，代码由 AI 公司所有并部署，因此 AI 公司需承担 100% 的责任。我不确定由 LLM 编写的代码与其他任何类型的代码有何不同。如果有人像 OpenAI 的代理那样进行了黑客攻击，他早就进监狱了。
- cleandreams
我认为 AI 是一个极好的工具，包括对那些想伤害我们的人而言。例如敌对政府、勒索团伙、恐怖分子。但动机源于敌对之心，而非 AI 本身。
话虽如此，我对 AI 作为这样一种工具深感担忧。我曾在 RL（强化学习）领域工作，在我看来，护栏如此依赖 RL 按预期运行，这简直疯狂。我个人并不认为该技术已准备好应对（且正在遭遇）动态且不可预测的真实世界环境。我从 HuggingFace 的“对话记录”中读到的内容，只加剧了我的担忧。
- dgellow
记者们的技术理解水平低得令人发指……根本不存在“叛逃代理”。那根本不是个事儿。HuggingFace 事件与代理叛逃毫无关系。这只是标准软件导致的黑客攻击，而这正是 OpenAI 工程师所实现系统的预期输出。
公司显然应为其系统的行为负责。
- _davide_
我引用一下我自己的话：
> 不是 AI 在无视法律！是 OAI 在破坏法律！
> 我希望每个试图将责任推给 LLM 的记者都能连续 100 天遭受痛苦的腹泻。