Terence Tao：AI 正在耗尽数学难题
Tao: Open math problems being non-renewably mined by AI
Terence Tao 指出，虽然数学问题的总量是无限的，但真正有价值、能带来深刻洞察的开放性问题却是有限的。当前，AI 工具正在以不可再生的方式‘开采’这些优质问题，导致它们迅速枯竭。AI 不仅拉平了问题的难度地形，使得原本需要人类深思熟虑才能发现的有趣问题被轻易解决，还模糊了'AI 可解’与'AI 难解’问题的边界。这种趋势迫使研究人员不再分享潜在的研究方向，严重损害了开放科学的传统，并让年轻数学家感到职业前景黯淡。我们正面临一个危险的局面：AI 生成的论文可能只有 AI 才会阅读，而真正推动学科发展的深度思考正在被速度所取代。
即使只是关于某人正在研究某个问题的传闻，也足以触发大规模的 AI 驱动努力，在该原始研究项目有机会发挥其全部潜力之前，就将该问题彻底解决。
HN 评论区
399- senshan
引自艾萨克·阿西莫夫 1956 年的作品《Jokester》：
“在 Multivac 历史的早期，人们就发现了一个巨大的瓶颈：提问程序。Multivac 能够回答人类的所有问题——前提是，如果——如果它能被问到有意义的问题。但随着知识以越来越快的速度积累，找到那些有意义的问题变得愈发困难。”
[0] https://web.archive.org/web/20150118004835/http://www.sffaud...
- vessenes
这话不算错。但这也是对数学史的一种误读。历史上许多顶尖数学家都极具竞争意识——高斯就是一个例子。那些智力稍逊的人若给高斯送去一些想法，恐怕要倒大霉。牛顿与莱布尼茨的争论在当时无论是英国还是欧洲大陆都是一件非常严肃的大事。向毕达哥拉斯学派圈子以外的人透露根号 2 是无理数，至少被视为一种罪过。
数学向来就是高度竞争的。
- Alien1Being
Tao 的核心观点似乎是：
“简而言之，不加区分地使用强大的解题提取工具，虽然能实现解决手头问题的短期目标，但却以牺牲支撑下一波进步的生态系统，或阻碍对已有进步的理解为代价。”
我不是数学家，可能误解了他的观点，如果有任何纠正，我将不胜感激。
- dvt
我和 @nilesh 持相同观点，不太确定仅仅存在一个解法如何会阻碍人类知识的进步。如果一个问题是“被解决”的（比如通过符号验证），却没有获得任何洞察，这对整个行业来说似乎没什么意思。
Navier-Stokes 问题有点不同（因为有奖金，所以“抢跑”很重要），但几乎所有有趣的问题都没有附带奖金。
- bwfan123
我现在明白了为什么 AI 实验室要赞助这些数学马拉松（mathathons）：https://mathathonchallenge.com/。他们本质上是在众包人类研究者的数据，以获取有前景的方向，可能稍后用来抢在其他人的前面。
- nullbio
除了成为真正的人类，没有什么 AI 是挖掘不到、完成不了的，现在这仅仅是硬件和规模的问题。通用问题解决能力取决于在问题空间中的搜索效率。软件部分其实都已经搞定了，剩下的开放性问题只是如何高效地做事，以及从硬件角度看有哪些权衡。但如果硬件范式被解锁，那么对于我们关心的那些问题，效率就变成次要因素了。举个例子，既然能制造出每秒处理 1 亿次（100mil TPS）的芯片，何必费心把 LLM 做得快两倍呢？你已经处于一个能做任何你想做的事、且绰绰有余的领域了。
这一切尴尬的地方在于，如果我们不关注硬件和研究的分配，让每个人都能参与这种富足并自动化日常生活，我们即将进入被主要科技公司极端奴役的时代。如果我们要受制于前沿实验室，因为它们囤积了所有尖端硬件，而我们只得到价格虚高的残羹冷炙，那我们集体就完了。他们将确保维持一种虚假的经济体系，以便紧紧抓住“有”和“无”的永久性阶级分层，并继续充当全球关键决策者。如果硬件分配不公平，且权重偏向真实稀缺而非人为稀缺，那么自动化硬件制造就毫无意义。
以 Louis Vuitton 为例 […]
- thymine_dimer
这难道不正是暗示，强大 AI 模型的下一个前沿是提出具有挑战性的问题，而不仅仅是解决它们吗？
Terry 甚至也说了：“事实上，现在稀缺且宝贵的资源是识别出一个有前景的问题。”
提出一个能让 Terry 感到兴奋的问题所需的创造力和洞察力，就是下一步。也许 OpenAI 应该提出一组具有挑战性的问题，并设立奖金供人解答。
- 20k
我们正不得不以极其艰难的方式，在实时中重新发现，为何允许大规模盗窃对社会如此具有破坏性。这恰恰是我们需要一个功能性版权系统的字面原因。
如果盗窃比真正的创造更有利可图，那么没人会去创造任何东西。那时也就没什么可偷的了，到了那个点，所有进步都会崩溃。
- jfengel
我没想到开放数学问题是一种有限资源。
我记得有个关于某位著名数学家（高斯？）的故事，他 dismiss 了对费马大定理的兴趣，声称他可以源源不断地制造出同等重要性的问题。
显然 Tao 在这方面比我懂得多得多，但我还是对数学竟然如此接近“完成”感到惊讶。
- twotwotwo
这种情况因 OAI/Ant 的策略而加剧：它们抢走荣誉然后溜之大吉，而不是花精力去推进对数学的理解。Tao 在 AI 使用方面相当老练，他对此说了很多，甚至以 meme 的形式：https://mathstodon.xyz/@tao/117068266026618494
AI 实验室对待数学的方式在某种程度上是不成熟的，这种不成熟在编程领域是行不通的。在编程中，他们意识到一堆技术上能运行的代码是不够的：他们需要代码输出成为构建的基础，并且他们的智能体需要与人类良好协作，这意味着要以有意义的方式解释事物。
在数学中，它们的目标似乎仅仅是利用数学“充满难题”的声誉，而普通大众根本无法区分一堆 Lean 代码和一个好的证明。OpenAI 基本上在文章结尾直言，这项工作只是为了炫耀。Anthropic 则表示它们的费马大定理形式化只是一个研究产物，他们不打算对其进行任何清理或改进。
除了让数学家们联合起来对实验室感到恼火外，这种策略的另一个缺陷是，它忽略了组织知识本身就是智能的一部分，就像编程不仅仅是产出一堆能运行的乱码一样。你可以写出一个使用代数几何的证明，因为有人将原本可能是一堆分散的想法（或没人会读的 Lean 仓库碎片）组织成了一个工具箱，专家可以在其中找到所需的工具。
我希望他们能改变策略。也许他们应该转而 […]