AI 并非医疗进步的主要瓶颈
Intelligence Is Not the Main Bottleneck
在一次晚餐中，一位AI实验室的同事质疑我关注医疗监管和临床试验政策的意义，认为AGI将很快解决所有问题。但我坚信，无论AI多么智能，现实世界的变革往往受制于监管、政策和临床试验的繁琐流程，而非技术本身。从Eroom's Law到Adaptimmune的困境，再到Baby KJ的基因编辑案例，都表明科学进步并不等于实际成果。真正的瓶颈在于如何快速获取人类数据、优化临床试验设计以及改革专利制度以激励创新。AI可以加速某些环节，但若治理结构不变，技术突破难以转化为社会价值。
无论AI变得多么‘智能’，如果这个词还有任何意义的话，智能往往并不是现实世界发生变化的主要瓶颈。
HN 评论区
116- scuppernong
“他难以置信地看着我。像我这样聪明的人，理应知道 AI，或者更准确地说，AGI 很快就会变得极具说服力——事实上，它已经在一系列基准测试中超越了专业辩手。”这类人总有一个让我忍俊不禁的怪癖：认为人类的特质是可以无限放大的。仿佛只要训练机器人讲笑话，它最终就能讲出让我们笑死的段子。但事实是，你无法说服一个不想被说服的人。
- ChrisMarshallNY
在我的工作中，我始终发现主要的“阻碍”（我犹豫是否该用“瓶颈”这个词）其实是人性。
如果我们设计的产品是给人用的（这正是我通常在做的事），那么必须充分考虑基本的人性，而这往往令人极其抓狂。
无论是否抓狂，人性都是一个关键因素，无论你跺多少次脚，它都不会消失。我想是 Philip K. Dick 说过：“现实就是当你不再相信它时，它依然存在。”
为流程或机器设计产品相当直接。然而，为人设计产品却极具挑战性（这也是我喜欢做这件事的原因之一）。
- MerrimanInd
气候变化是另一个前沿 AI 实验室轻描淡写地将其归为“可由 AGI 解决”的大问题。其前提是：一个纯粹的超级智能能交给我们一份击败气候变化的方案，这份方案如此完美无缺，以至于 A) 它肯定能奏效，且 B) 人们会去执行它。
然而，已有整本著作指出，我们现在其实拥有大幅遏制气候变化的技术，却因复杂且模糊的政治、社会及系统性原因而未被充分利用。存在大量问题，其解决方案已非常详尽，但差距在于执行。
那些沉迷于 AGI 幻想的人必须认为以下两点之一：要么存在一个尚未发现的、既能改变世界又极易实施的方案；要么我们将如此狂热地崇拜机器之神，以至于即便它吐出的只是一个相对明显且渐进式的气候变化方案，世界也会 eagerly 追随。在我看来，这两个前提都荒谬得可笑。
- Veedrac
确实。人类而非其他猿类登上月球，靠的是我们卓越的长跑天赋、非凡的汗腺……啊，等等。
生活在我们周围的世界中，怎么可能看不到这样一个显而易见、透明的事实：智力才是支撑一切的杠杆？人类确实是种奇怪的动物，但这并非因为我们的无毛或相对平均的暴力倾向。我们拥有的房子比黑猩猩多，并非因为我们更强壮。我们战胜疾病的代价，并非因为我们异常缺乏克制。我们的治理效率高于白蚁，也并非因为我们更群居。
当然，智力才是主要瓶颈。这里的论点混乱不堪。你以为法规是由什么构成的？你以为金钱能买到什么？你以为是什么决定了你收集数据的能力，或是你消费数据的效率？但当然，正如这类文章的模式：前三分之一篇幅大谈对方多么愚蠢，后三分之一则绞尽脑汁找出一个漂亮的 insult 并沉溺其中，以至于中间留给真正论点的空间寥寥无几，根本无法让人去思考为何有人会持不同意见。
- discreteevent
Alan Kay 曾说：“视角的转变相当于 80 个智商点。”
这种视角的转变往往由沟通或输入/输出（I/O）带来。据我的经验，这往往属实。善于沟通的人比那些聪明却不愿深入问题领域的聪明人做得更多。瓶颈在于 I/O，而非智力。
- bwfan123
> 无论 AI 变得多么“智能”，智力往往并非现实世界发生变化的主要瓶颈
数学家 Terrence Tao 在最近的演讲中 [1] 表达了类似的观点：智力受限于人类的理解力。假设有一个外星人带来一本包含人类从未见过的数学知识的书，那么使用这些数学知识的瓶颈在于人类首先必须理解它。
[1] https://teorth.github.io/tao-web/slides/age-of-ai-icm-2026.p...
- highfrequency
确实如此——如果数据的访问权限或基于数据采取行动的许可受到人类守门人（个人或官僚机构）的限制，那么智力往往不是主要瓶颈。
发帖人指出，这在生物学/医学领域尤为常见，监管瓶颈占据主导地位。
> 有些人已经等待了一年，只等 NIH 发布可用于生成更好生物标志物的影像数据集。如果需要与 FDA 互动以验证终点，情况则更糟：我曾写过，骨矿物质密度（BMD）作为骨质疏松症试验的替代终点，其验证过程耗时 12 年（！），尽管支持该结论的数据早已完整存在，且所做的分析基本只是回归分析。
- danielmarkbruce
虽然在某种程度上这是对的……但激励因素并非主要驱动力。在生物技术领域寻找好的靶点本身就是一个更难解决的问题。难得多。疾病生物学复杂得要命。而在另一端，弄清楚一个靶点蛋白与潜在治疗分子之间的相互作用要容易得多（这依然复杂，且还有更多细节，但远没有寻找好靶点那么难）。