前Anthropic研究员辞职：AI竞赛正赌博人类未来
I Resigned from Anthropic Today
我刚刚从Anthropic辞职。过去三年，我先后在OpenAI和Anthropic从事预训练研究。这两家公司都没有负责任地行事，它们正疯狂奔向自我改进的超级智能，拿我们的生命做赌注。不要低估这项技术的力量，很快我们将面对能破解一切、一夜颠覆任何领域并获取真实权力的超人类系统。许多AI构建者真心相信，到本十年末AI可能毁灭我们，这绝非营销噱头。在Anthropic，大家深知风险，却因担心无人会负责任而被迫加入这场竞赛。接受这种竞赛并进入“终局”是一场傲慢的赌博，不应由私营公司的Slack来启动。
不要低估这项技术的力量，这些系统很快就能破解一切，一夜之间颠覆任何领域，并获取真实的权力和资源。
HN 评论区
900- Mizza
这就像两家私人公司各自在制造越来越大的核弹，双方都说很想停下来，但又认为让任何一家公司独自掌控核武器是不安全的。
- thomascountz
没有任何其他人类活动会构成这种级别的危险。
我确实听到了这些警告，但这听起来更像是一种脱离实际的夸张。参考一下：全球变暖、核武器研发、贫富差距、战争、技术依赖等等。
此外，这与大语言模型（LLM）或计算机毫无关系。和所有事情一样，这归根结底是关于人类的问题。
- huitzitziltzin
“没有任何其他人类活动会构成这种级别的危险。”
我极其、极其不同意这个说法。
我认为，就对人类构成的危险而言，AI 模型远不及核武器，甚至不及日常普遍的碳排放。
迄今为止，大语言模型（LLM）造成的最危险的事情是什么？（这是个严肃的问题——也许我不知道合适的例子。）
例子 1：我知道有少数人因某种 AI 助长的精神错乱而自杀。这不太可能成为一个广泛的问题。
非例子 2：有人担心 AI 助长的生物武器。但我没看到任何正在发生的证据。
非例子 3：我对那些关于 AI 驱动的劳动力市场动荡导致大规模饥荒的疯狂理论不感兴趣。没有任何证据支持这一点。
非例子 4：所有那些更疯狂的理性主义者关于巴塞尔基斯（basilisks）之类的推测，完全脱离了现实。
我正在寻找更好的理由（要有实际证据支持！）来让我比现在更担忧：此时此刻，我一点也不担心。
- matherial
与大多数其他评论者不同，我赞赏他坚持自己的原则。如果你真心相信某件事，当然就应该付诸行动。你可能不会成功，但你的声音可能是那根压垮骆驼的稻草，从而引发更广泛的运动。
这并不意味着我同意他的观点。关于快速崛起导致末日（doomsday）的恐惧从第一天起就存在了，其机制基本上总是