AI 失控时，为何仍需人类数学家？
Why Do We Need Human Mathematicians Anymore?
当 AI 声称能解决 Navier-Stokes 等千禧年难题，数学界正面临前所未有的存在危机。Po-Shen Loh 指出，随着 AI 能力超越人类，我们反而更需要人类专家来掌控方向。因为没有任何高智能物种会将未来决策权交给低智能物种。AI 的加速发展将创造出海量需要人类监督的“控制点”，导致人力短缺反而迫使 AI 减速。文章提出核心公理：人类应帮助人类繁荣。这意味着数学研究等关键领域必须保留人类主导地位，以确保技术始终服务于人类福祉，而非被失控的算法反噬。
没有任何一个智能物种的例子是能力远超另一物种，却将自身未来的决策控制权拱手让给能力较弱的物种。
HN 评论区
344- xanderlewis
给那些可能没意识到的人一个善意的提醒：像上面这类帖子下的绝大多数评论，都是（否则很聪明的）程序员留下的，他们以为数学是一个封闭系统，人们在其中试图解决无穷无尽的奥赛型题目。我根本不会把任何此类评论当真。最好还是听听那些真正懂这门学科的人在说什么。
不幸的是，数学（尤其是纯数学）因其本质，被那些没做过数学家工作的人非常、非常地误解。更糟糕的是，那些不懂的人似乎完全没意识到自己的误解，反而对他们的（非常错误的）学科定性充满了信心。
- Planktonne
所有参与 AI 工作的人都应该读过《巴别图书馆》[1]。
它涉及很多内容，但或许这里最相关的观点是：没有理解，信息就毫无意义。我们可以生成所有可能的知识，但除非有人——一个人类——能验证并理解它，否则它就不算数。治愈死亡的方法可能写在月球上，但如果没人去读，它就真的没被发现。
[1] https://maskofreason.wordpress.com/wp-content/uploads/2011/0...
- auggierose
> 我们（人类）应该帮助人类繁荣。
我认为这个公理当然是正确的。但在我看来，这篇文章的错误在于试图将这个公理单独应用到每个领域。如果我们把这个作为最高准则，那么人类是否应该引导数学的发展就完全不清楚了。也许由 AI 来运营“世界数学部”对全人类来说会更好。
- bananaflag
> 类似的逻辑适用于每个行业和每一份工作。结论是我们没有足够的人手来完成所有需要完成的工作。
在（极其）短期内，是的。但从长远来看，这些工作也将由 AI 完成。
这就好比黑猩猩看到人类社会，然后说：“看它有多复杂，想象一下需要多少黑猩猩来维持它”。
- VCFundedGenYer
今天早上 HN 上这些完全跑偏的文章是怎么回事？每一篇都是那种歇斯底里的亲 AI 反人类的垃圾文章。