为何众多AI研究员担心机器会毁灭人类

Why So Many AI Researchers Think the Machines Could Kill Everyone

在各大AI实验室内部，一种真实的恐惧正在蔓延。这种担忧并非源于科幻电影中的情节，而是基于技术发展的现实轨迹。快速的技术进步、递归自我改进能力以及智能体群（agentic swarms）的兴起，让许多AI研究员感到不安。他们担心，如果机器获得超越人类的智能并失去控制，可能会对人类生存构成致命威胁。文章探讨了这些担忧背后的逻辑，以及研究人员为何认为我们需要在技术失控之前采取行动。