Terence Tao：AI 正在耗尽数学难题
Tao: Open math problems being non-renewably mined by AI
Terence Tao 指出，虽然数学问题的总量是无限的，但真正有价值、能带来深刻洞察的开放性问题却是有限的。当前，AI 工具正在以不可再生的方式‘开采’这些优质问题，导致它们迅速枯竭。AI 不仅拉平了问题的难度地形，使得原本需要人类深思熟虑才能发现的有趣问题被轻易解决，还模糊了'AI 可解’与'AI 难解’问题的边界。这种趋势迫使研究人员不再分享潜在的研究方向，严重损害了开放科学的传统，并让年轻数学家感到职业前景黯淡。我们正面临一个危险的局面：AI 生成的论文可能只有 AI 才会阅读，而真正推动学科发展的深度思考正在被速度所取代。
即使只是关于某人正在研究某个问题的传闻，也足以触发大规模的 AI 驱动努力，在该原始研究项目有机会发挥其全部潜力之前，就将该问题彻底解决。
HN 评论区
277- senshan
引自艾萨克·阿西莫夫 1956 年的《Jokester》：
“在 Multivac 的早期历史中，人们已经明显意识到存在一个巨大的瓶颈：提问程序。Multivac 能够回答人类的所有问题，只要——只要有人提出有意义的问题。但随着知识以越来越快的速度积累，找到这些有意义的问题变得越来越困难。”
[0] https://web.archive.org/web/20150118004835/http://www.sffaud...
- nullbio
除了成为真正的人类之外，没有什么事情是 AI 无法挖掘和完成的，现在这仅仅是硬件和规模的问题。通用问题解决能力取决于在问题空间中的搜索效率。软件部分其实已经全部搞定，唯一开放的问题是如何高效地做事，以及从硬件角度来看权衡是什么，但如果硬件范式被解锁，那么对于我们关心的那些问题，效率就变成次要因素了。举个例子，如果你能制造出每秒处理 1 亿次（100mil TPS）的芯片，何必费心让 LLM 快一倍呢？你已经处于一个可以随心所欲做任何事的领域，而且绰绰有余。
这一切最尴尬的地方在于，如果我们不专注于硬件和研究的分配，让每个人都能参与这场繁荣并自动化日常生活，那么我们即将进入一个被主要科技公司极端奴役的时代。如果我们受制于前沿实验室，因为它们囤积了所有尖端硬件，而我们只得到价格虚高的残羹冷炙，那我们集体就完了。他们将确保维持一种虚假的经济体系，以便紧紧抓住“有者”和“无者”之间永久的阶级 hierarchy，并继续作为全球关键决策者。如果硬件没有被公平分配，而是被人为制造稀缺而非真实稀缺所加权，那么自动化硬件制造就毫无意义。
以 Louis Vuitton 为例 […]
- vessenes
这并非不实之词。但这也是对数学史的一种误读。历史上许多顶尖数学家都极具竞争性——高斯就是一个例子。任何向高斯发送想法的 lesser intellect 都要自求多福。牛顿与莱布尼茨的争论在当时在英国和欧洲大陆可是非常严肃的大事。至少在当时，向毕达哥拉斯圈子以外的人透露√2 是无理数被视为一种罪过。
数学一直以来都极具竞争性。
- Alien1Being
Tao 的核心观点似乎是：
“简而言之，不加区分地使用强大的解提取工具可以实现解决手头问题的短期目标，但代价是损害了支持下一波进步的生态系统，或者阻碍了对已取得进步的理解。”
我不是数学家，可能误解了他的观点，如果有任何纠正我将不胜感激。
- dvt
我赞同 @nilesh 的观点，也不太确定仅仅存在一个解如何会阻碍人类知识的进步。如果一个问题是“被解决”的（比如经过符号验证），但没有获得任何洞见，这对这个职业来说似乎并不有趣。
Navier-Stokes 问题有点不同（因为附带奖金，所以“抢跑”很重要），但几乎所有有趣的问题都没有任何奖金。
- 20k
我们正不得不以极其艰难的方式实时重新发现，为什么允许大规模盗窃对社会如此具有破坏性。这正是我们需要一个功能正常的版权系统的字面原因。
如果盗窃比真正的创造更有利可图，那么没人会再创造任何东西。那时也就没有什么可偷的了，到那时，所有进步都会崩溃。
- bwfan123
我现在明白了为什么 AI 实验室要赞助这些数学马拉松：https://mathathonchallenge.com/。他们基本上是在众包人类研究人员的数据，以获取有前景的方向，可能稍后会抢先他人。
- kragen
Terence Tao 正是 12 年前那篇几乎说服所有人认为 Navier-Stokes 方程会在有限时间内爆破的论文的作者，这一点似乎很相关：http://arxiv.org/abs/1402.0290