AI 无法设计出末日超级病毒
I'm sorry, you're not going to die from an AI-engineered supervirus
Noah Smith 最近发文警告 AI 可能设计出致命超级病毒，但我作为生物计算领域的从业者，认为这种担忧纯属杞人忧天。现实是，计算设计生物系统难如登天，即便是顶尖专家也难以成功。病毒传播力与致死率之间存在根本性的生物学权衡：高致死率往往导致传播受阻，而高传播力通常伴随低致死率。像 COVID 这样的病毒之所以造成巨大影响，恰恰是因为它处于致死与传播的“黄金平衡点”，而非因为它是 AI 设计的。我们真正该警惕的是自然界中不断变异和跨物种传播的真实病毒，而非科幻小说般的 AI 末日剧本。
当人们认为 AI 能在没有进行大量昂贵的基础科学实验的情况下自行解决这个问题时，他们已经离开了科学的领域，进入了只能被描述为宗教的领域。
HN 评论区
122- janalsncm
> 当人们相信 AI 能够自行解决这个问题，而无需先进行大量且昂贵的基础科学实验时，他们就已经脱离了科学范畴，进入了只能被描述为“宗教”的领域。
我强烈同意这一点。太多人的脑子里被阿瑟·克拉克（Arthur C Clarke）的那句名言给“感染”了。
科学中有太多内容依赖于物理世界，无法仅凭第一性原理（即单纯靠苦思冥想）来确定。（抱歉柏拉图，你没法靠想就能想到月球。）你需要越来越精确的测量，这意味着越来越复杂的工具，进而意味着……供应链。科学需要供应链，魔法则不需要。
- jsnell
美洲原住民在欧洲人定居的第一代中，因传染病导致的人口死亡率是不是高达 95%？麻疹、天花、流感等等。
这些疾病的死亡率之所以比今天高，是因为当时的人群完全没有免疫力，导致传播率和死亡率都更高。 engineered virus（人工病毒）也会是这样。
而且不仅仅是某一种病毒，而是整个大陆的传染病武器库以重叠的波浪形式袭来。这恰恰是你想要最大化破坏力时会做的事。
所以，我觉得这篇文章中关于“病毒不可能产生这种效果”的大部分论点都缺乏说服力。
- woopwoop
作者似乎在论证，从生物学上讲，制造一种具有与新冠相同传播特性但毒性更强的病毒是不可能的，或者诸如此类的说法。我不明白他依据什么原则来做出这样的断言。
- Footnote7341
大家聚在一起互相拍马屁，但天花曾经让整整一个大洲人口锐减。显然，高传染性且致命的病毒是可能存在的。
- Metacelsus
仅仅因为作者想不出如何用人工病毒造成大规模死亡，并不意味着 AI 就想不出办法。
（作者没有考虑到几种生物威胁。我就说到这里吧。）
- colingauvin
天哪，谢谢你。
我实在找不到合适的词来形容，我有多厌倦听那些搞技术和经济学的人大谈生物学。
- Protostome
显然，《经济学人》（The Economist）文章中所描绘的场景有点牵强。我同意，一个青少年不太可能很快就用 ChatGPT 策划出一种致命病毒。
但我认为这里的核心论点大体上是正确的：许多非常复杂的科学已经变得民主化，以至于它们变得更容易获取。你不再需要一群杰出的分子生物学家、生物化学家和生物信息学家来完成今天几个智能体（agents）就能做到的事情。而且这种速度正在加快。这就是当你接近库兹韦尔（Kurzweil）所普及的“奇点”时，指数级进步的本质。
当然，今天肽抑制剂和酶设计对于许多任务来说仍然遥不可及，我知道这一点，因为这也是我过去 15 年作为本文作者所从事的工作。然而，仅仅五年前，蛋白质结构预测还是一个未解之谜，而现在我们领域的每个人都认为它已经解决了。
我并不担心某个独狼利用 AI 设计病毒，但我担心门槛已经降低到这样一个程度：许多流氓政府或恐怖组织现在可以接触到那些以前只有极少数人才能以高昂代价获得的工具和技能。
作者在这里是用一个精通该领域的科学家的隧道视野来看待这个问题的。我知道这一点，因为我自己也是，但经验告诉我，应该更担心那些“未知的未知”。也许某个地方正有一个团队在研究我们尚未……
- 01284a7e
“宇宙可能向任何社会提出的难题，从实际目的来看，数量是无限的，种类是无穷的。”——约瑟夫·泰恩特（Joseph Tainter）
AI 将真正帮助宇宙生成更多难题。也许它不是超级病毒，但天知道，也许它就是。