AI算力竞赛：数学正退回中世纪？
How do we prevent mathemathics from devolving into the Medieval Era of secrecy?
中世纪时，数学家为保住饭碗将公式视为秘密武器，甚至引发牛顿与莱布尼茨的优先权之争。如今，这种封闭文化似乎正在回归。随着大型AI公司投入数千万美元算力，利用LLM和Lean快速生成证明，发现问题的价值远高于解决问题本身。Terence Tao警告，这种‘证明经济’的崩塌可能导致研究人员不敢分享研究思路，生怕被资本巨头抢先。当算力成为新的壁垒，我们该如何防止数学研究退化为新的中世纪秘密时代，重新构建开放科学的信任契约？
如今，识别出有前景的问题已成为稀缺而宝贵的资源，甚至关于某人正在研究某问题的传言，都能触发海量AI驱动的算力投入，在原研项目尚未充分展开前就将其解决。
HN 评论区
107- philprx
让 LLM 生成的证明遵循与人类数学家相同的约束条件：
证明必须尽可能简洁，以便可被审查。同一个 LLM 可以重复发布，但绝不能直接扔出一个 600KB 的 Lean 证明。
证明必须建立在其他同样精简且已发布的成果之上（以便进行增量审查）。
证明一旦成型就必须立即发布，而不能像当前 LLM 生成的证明那样批量发布。
- lacker
最近我看到了两种担忧：
1. 人们会发表太多前沿数学成果，人类将无法理解所有内容。
2. 所有前沿数学成果都将被保密。
幸运的是，这两者似乎不可能同时发生。
- niemandhier
在科学和数学领域，往往只有最终结果才能获得认可或发表。
也许我们应该开始认可和发表我们的中间结果和尝试。
人类可以因提供解决难题的部分方案而获得认可，LLM 则能从由此产生的数据飞轮中获益。
- Ancalagon
还有谁已经在企业环境中经历过这种情况吗？我知道我就在经历。这不仅发生在团队之间，团队内部也是如此。
- jan_m_savage
在谈论前沿数学吗？即使是面向普通大众的基础数学版本，对大多数人来说也完全无法触及。即便是那些真正想学习的人也是如此。
仔细看看那些教授数学的教科书，然后告诉我我错了。
- ZYbCRq22HbJ2y7
别担心它几年，回头再看看这到底是个真正的问题，还是恐慌引发的流量制造机。
- xenadu02
我们不会（容忍这种情况）。
在 LLM 出现之前，想要狙击某人至少需要付出一些努力，否则你的声誉就会受损；如果不想发表，那从一开始就没有意义。
现在，只要花几美元，任何人都能做到，而且很多人根本不在乎自己的声誉。
这和 YouTube 上的 AI 垃圾内容、AI 生成的音乐以及其他一切问题如出一辙。千万别在推特上或博客上发布视频创意，也别哼唱几段旋律——一小时内，就会有 27 个人发布 AI 生成的山寨货。被一个事后抄袭的人超越固然令人沮丧，但被一个根本不付出同等心血的小偷抢先一步，那种独特的压抑感更是让人绝望。
- roosterIllusi0n
大学应该为教职员工和学生提供由大学托管的 LLM。任何学生或教职员工都不应使用公共 LLM 进行工作。他们可以直接与其他人分享信息，或在非公开论坛中交流，以避免数据被商业 LLM 获取。向商业 LLM 提交他人的作品应当被明令禁止。企业也会制定类似的政策。
大学可以像托管其他计算机实验室或校内网络服务一样托管 LLM。这正是大学本该做的事。大学应参与开源模型研究，并提供不会被数据爬取训练的模型。