AI 模型不杀人，杀人者是人
AI models don't kill people – people kill people
Anthropic 研究员 Jacob Coxon 因担忧 AI 在十年内毁灭人类而辞职，Evan Hubinger 也承认这一风险真实存在。但文章指出，真正的问题并非模型本身，而是那些草率发布产品且逃避责任的公司。相比 AI 的末日幻想，人类活动导致的气候变化每年已造成数万人死亡。作者认为，与其空谈 AI 风险，不如像处理大众汽车排放门或 Takata 气囊案那样，通过法律将失职的科技公司高管送进监狱。只有让决策者承担刑事责任，才能真正迫使 AI 行业重视模型安全。
真正的问题不是模型本身，而是那些草率地将它们释放到世界上，却不对产品造成的后果承担任何责任的公司。
HN 评论区
69- mattlondon
AI 毁灭全人类的可能性是 10%……但人类自己把人类全灭了的可能性又有多大呢？我们现在可没处于什么前所未有的和平时代。我敢打赌，眼下发生全面核交换的概率肯定超过 10%。
我对这一切感觉有点复杂。是的，糟糕的 AI 可能会搞砸一些事。但 AI 也有可能发现并阻止那些让此类事件成为可能的软件错误。
归根结底，就算我们被“锁在”坏 AI 接管互联网之外，我们也知道数据中心在哪里。AI 不太可能合理地“逃逸”，因为我们知道它要大规模运行需要数据中心级别的电力、冷却和芯片等。我很确定，真到了那一步，我们只要切断数据中心的光纤或切断电源，让发电机耗尽柴油，AI 就彻底完蛋了。
- onraglanroad
我不确定提交者 Bender“杀光全人类”Rodriguez 在这件事上是否完全中立。
- _ache_
好吧，所以 OpenAI 要就其服务器遭受的网络攻击向 RubyGem 进行赔偿吗？
- jaydeepg
既然我们把 AI 当作武器，那是不是意味着我们终于能给科技 CEO 做背景调查了？
- skeledrew
终于有个理智的声音了。