AI 生成数学成果，人类该如何负责？
Responsible Release of AI-Generated Mathematics
当前，部分前沿 AI 实验室正在用闭源模型测试高难度数学问题，却未向科学界公开。这种做法违背了数学界长期以来的学术规范：作者必须理解、验证并承担责任。如今，AI 能输出人类无法理解或验证的论证，这引发了对学术责任的深刻反思。文章基于数学社区的反馈，提出 AI 实验室应负责任地发布成果，包括及时公开模型细节、支持人类理解过程，并确保全球数学界公平获取工具。数学的进步依赖于集体验证与共享直觉，不能让技术特权制造新的不平等。
数学的进步主要依靠集体验证、概念综合和共享直觉，当只有少数人能接触到产生前沿成果的工具时，这些都无法蓬勃发展。
HN 评论区
53- throwaway713
> 我们要求他们停止在专有模型上测试高难度的数学问题。
也许只有我这么想，但不知为何，这类请求让我觉得像是在限制别人如何呼吸空气。这是数学……那些数字和符号就存在于柏拉图式的领域中，任何人都可以随意处置。要求别人停止，这显然是荒谬的。
确保该得的荣誉归该得之人？这没问题。如果你的模型融合了众多他人的努力，那么要求承认所有贡献者（哪怕是间接贡献）也是合理的。但这并不是该请求的内容——据推测，他们的要求涵盖了任何高级机器学习模型，包括那些并未在海量文本语料上训练的模型。
- kingstnap
大部分内容都很直白。关于让证明过程去神秘化、正确引用现有文献、并在便于评论的地方及时发表（附带用于验证的工件），这些观点都毫无争议。
我认为最具争议的观点无疑是这一立场：长期存在的数学问题不应被用作（特别是专有）模型的基准测试。这一点在开头就明确提出了。
其理由也很清楚。
> AI 实验室利用其专有内部模型进行数学研究，可能会造成一种两极分化的体系，即实验室领先于整个领域，实际上将数学界与其自身的学科异化开来。
对数学家来说，当数学家无法与 AI 实验室竞争时，一切似乎还很有趣（对非数学家而言更是如此），但我认为更危险的方向是，这种情况开始适用于其他所有领域。例如网络安全或其他方面。因此，我认为 Anthropic 完全反对开放任何事物的整体立场实际上*极其*危险，因为他们完全忽视了权力集中这一风险因素。
这篇文章中最值得讨论的无疑是“实验室应资助数学家进行阐释”这一想法。
> 我们的原则之一是，AI 实验室有责任提供支持，包括资金，以促进人类理解他们所发布的 AI 数学成果的发展。
显然，这个方向听起来像是数学家……
- unddoch
对于每一个由 AI 解决的重要数学问题，如果没有数学家，我们就不会知道该问题的存在及其重要性。
著名的数学猜想是社会建构的产物，是数学界成员经过数十年甚至数百年的关注而形成的。如果没有这种关注，未来的数学“进步”的危险在于，它将被简化为生成 Lean 语句表，以及由 AI 生成的“可证/不可证”的标记。
- mchusma
要么数学进步有助于推动社会发展，在这种情况下，进步就是好事。
要么数学更像是一种爱好，虽然 AI 可能会破坏他们的乐趣，但他们需要像国际象棋和围棋玩家一样，继续前行。
- LelouBil
我看过一个采访（法语），Cédric Villani 代表他自己和其他菲尔兹奖得主发言，他说为了推动数学发展，我们需要三样东西：
- 想法
- 学生
- 问题
基本上，就是让学生带来原创想法，尝试解决现有问题，这又会产生新想法，甚至可能为新一代学生带来新问题，让他们用新想法去尝试解决，如此循环往复。
他接着说，LLM 在数学领域的问题在于，他担心问题会被耗尽，学生也就不会再去尝试，这可能会损害对数学整体的理解。
这完全不是我的专业领域，所以我不知道该怎么想，但这似乎很重要。