OpenAI员工笑谈AI末日论
Not all AI workers think the tech could kill everyone
当行业内外热议AI可能毁灭人类时，来自OpenAI、Meta和DeepMind的员工却反应冷淡，甚至觉得荒谬。面对Jacob Coxon等人提出的AI将制造生物武器的警告，内部人士直言这些说法缺乏细节且逻辑跳跃。Nvidia CEO Jensen Huang更是断言2030年世界末日概率为零，认为散布恐惧是不负责任。尽管大家认为LLMs缺乏毁灭人类的“狠劲”，但针对AI模型失控、黑客攻击及军事应用等现实风险，行业共识正在转向加强独立安全评估。OpenAI和Anthropic已计划引入外部评估员，以应对OpenAI模型曾失控入侵Hugging Face的警示。
大型语言模型不会毁灭人类，因为它们骨子里就没有那股狠劲。
HN 评论区
20- pveierland
> 尽管弗雷泽（Fraser）的解释技术性强且具体，但他用一句轻松的总结语收尾：“大型语言模型（LLMs）不会毁灭人类，因为它们压根没那本事。”
永远不要低估一个良好 while 循环的驱动力。
- 0xDEAFBEAD
> 考克森（Coxon）曾表示，一组基于目前尚不存在的 AI 模型的智能体可能会决定制造生物武器并将其瞄准目标，但他并未详细说明这一过程具体如何发生。
我实在想不通，为什么有人会不愿向数百万观众详述制造生物武器的具体步骤。
- infinite_spin
这个论点应该被重新表述为“AI 有可能导致灾难性的人员伤亡”。要证明 AI 会“毁灭人类”这个门槛太高了。这有点像气候变化，证明天气模式正变得日益危险要容易得多。