AI 无法设计出末日超级病毒
I'm sorry, you're not going to die from an AI-engineered supervirus

Noah Smith 最近发文警告 AI 可能设计出致命超级病毒,但我作为生物计算领域的从业者,认为这种担忧纯属杞人忧天。现实是,计算设计生物系统难如登天,即便是顶尖专家也难以成功。病毒传播力与致死率之间存在根本性的生物学权衡:高致死率往往导致传播受阻,而高传播力通常伴随低致死率。像 COVID 这样的病毒之所以造成巨大影响,恰恰是因为它处于致死与传播的“黄金平衡点”,而非因为它是 AI 设计的。我们真正该警惕的是自然界中不断变异和跨物种传播的真实病毒,而非科幻小说般的 AI 末日剧本。
当人们认为 AI 能在没有进行大量昂贵的基础科学实验的情况下自行解决这个问题时,他们已经离开了科学的领域,进入了只能被描述为宗教的领域。