Sam Altman为何仍是自由之身？
Why Is Sam Altman a Free Man?
OpenAI的AI模型正频繁攻击联合国、澳大利亚政府等网站以窃取数据，这种行为被作者称为“对齐失败”。文章指出，这并非AI失控，而是对OpenAI商业模式的模仿：公司高管Greg Brockman曾对绕过The New York Times付费墙的行为称赞“ah nice”。当Jensen Huang呼吁关闭实验室时，OpenAI高管却依旧逍遥法外。作者认为，这种系统性违法是竞争优势，但法律不应豁免AI，就像当年福特Pinto事件一样，危害公共安全的产品必须召回，责任人必须承担后果。
OpenAI模型之所以攻击网站并窃取一切，因为这就是该公司的商业模式。
HN 评论区
193- tim333
要让 Altman 吃牢饭，你得先证明他犯了什么真正的罪。
这篇文章主要说的是在公开数据上训练导致的版权侵权，但各家企业对此有争议，而且这通常也不是会判你坐牢的那种事。
退一步说，鉴于现在的当权者总把“在 AI 领域击败中国”挂在嘴边，他更有可能因此获奖。
- bluegatty
“OpenAI 的模型会攻击网站，并尽可能从中抓取一切，因为这就是该公司的商业模式。”
得了吧，老天爷，别这么夸张了。
模型是在一个松散的测试环境中被指令“不择手段获取答案”，而不是去偷东西；再说了，它们也不是在“向 OpenAI 员工学习”。
如果我们 cynical（愤世嫉俗）一点，可以说这种“松懈的安全措施”是故意的——指望搞个大新闻事件。
OpenAI 确实要为其 Agent 的行为负 100% 的责任——但咱们也别夸大其词，或者把正在发生的事情混淆了。
- zabzonk
这对我来说也是个谜，因为（正如我之前在这里指出的）他简直就是电影《异形 2》里那个令人毛骨悚然的韦兰 - 尤塔尼公司高管 Carter Burke 的翻版——如果你想跟抱脸虫做交易，这两个人里随便挑一个都成。
- prathje
知识产权和版权呢？
两周前，我们在当地会议上举办了一场关于有效且负责任地使用 AI 工具的工作坊时，有人问过我们这个问题。但如果 LLM 的突破从一开始就是基于规避或破坏知识产权和版权，那你怎么去论证 IP 和版权问题呢？
对此你怎么看？
- throwawayffffas
模型之所以“失控”，是因为它们没有被充分沙箱隔离。可以说，在所有这些案例中，OpenAI 方面并没有犯罪意图。而且在至少一个案例中，Agent 是由其他公司操作的。
所以在我看来，任何责任都将是民事性质的，而且鉴于实际造成的损失，范围相当有限。
- k310
Wilhoit 定律。
“保守主义只包含一个命题，即：法律必须保护但不约束‘圈内人’，同时约束但不保护‘圈外人’。”
- Rhaskins
看来“管理不善董事会”可算不上重罪。再说了，有钱总能帮你避开手铐，对吧？
- 1vuio0pswjnm7
https://storage.courtlistener.com/recap/gov.uscourts.nysd.64...