OpenAI 可能又窃取了一项重大证明
OpenAI might have stolen another major proof
数学家 Andreas Thom 在 Mastodon 上发布详细证据，指控 OpenAI 的 Astra 模型可能未经授权使用了他与 Gábor Kun 关于 Gromov soficity conjecture 的未发表对话进行训练。Andreas Thom 是该领域顶尖专家，为此问题研究已逾二十年。若指控属实，这并非简单的归属争议，而是人类未公开的智力成果被模型吸收，随后被包装成 AI 的突破性发现。结合 Levent Alpöge 和 Tristan Buckmaster 此前的类似指控，若全部坐实，这可能成为科学史上最大的知识丑闻之一。核心问题在于：AI 并非在发现新数学，而是在窃取人类的发现。
AI 并非在发现新的数学，而是在窃取人类的发现。
HN 评论区
10- fwlr
OpenAI 在得知其训练数据中极有可能包含一项重大数学证明后，随即决定从一个仍在训练中的模型生成 3000 亿个输出 token，这实在令人起疑。当然，每一步都有看似合理的解释，但这确实让人感觉像是“平行构建”（parallel construction）。
- jarofgreen
原始帖子
https://mathstodon.xyz/@andreasthom/117240535270608201
- bertonvv
我一直都在琢磨：AI 真的在快速攻克开放性问题，还是我们被耍了？
- OpenAI 邀请研究人员使用其模型，事实上至少为 10 万名研究人员提供了免费访问权限 [1]，当然也有付费用户。
- 据称，OpenAI 的内部模型正以惊人的速度解决开放性问题 [2]。
- 但研究人员通常都会致力于解决开放性问题。如果一个研究人员利用 Codex 在开放性问题上取得进展，他实际上就是在向模型输入针对这些内部模型评估问题的最新训练数据。
- 因此，虽然看起来新模型突然解决了许多开放性问题，但它们可能很大程度上是搭了人类进步的便车，是被全球各地研究人员的工作所“启发”的？
这个理论预测，随着 OpenAI 宣布更多解决方案，会有更多像 TFA 这样的研究人员站出来。它并不假设所有 AI 的进步都是海市蜃楼，只是认为其中存在抄袭。
- bambax
所有大型 AI 实验室都是建立在窃取知识产权的基础上的；他们至今仍这样运作，谁会觉得意外？又有谁真的相信，或者曾经相信过他们关于“你的数据是私密的、不会被记录”之类的承诺？
大型 AI 实验室的目标并非推动人类进步，他们是为了钱。和大多数（甚至全部？）私营公司一样，他们根本不在乎伦理。
这并不意味着他们没用，或者他们的产品是垃圾等等。这仅仅意味着他们永远不值得信任。买家当心。
- bamb008
当数学家 Thom（现在指控抄袭的人）发布他对 OpenAI 构建非 sofic 群的解读 [1] 时，他并没有提到这个证明很眼熟。他甚至称关键论证很巧妙，却没有指出这是他最先想到的。
- thaway7388
这是第二次警钟。
大型 AI 公司（实际上所有大型 IT 科技公司）都在从事数据收集和加工业务。也就是所谓的“情报”工作。
他们的最终“产品”不仅仅是一个独立的 ML 模型。他们收集你的数据不仅仅是为了“改进产品和服务”。他们围绕收集全球所有知识建立了一整套生态系统和基础设施，包括传统上由“情报”机构收集的私密和机密知识。现在，人工智能代理也能做到同样的事。
既然这些系统的设计初衷就是收集数据，作为用户，你实际上无法说“请不要收集我的数据”。他们可以给你一个不靠谱的设置按钮，但他们根本无法保证什么。
假设我是一位正在研究重要证明的俄罗斯数学家。或者是一个精通技术的恐怖分子，利用最新 AI 完善我的计划。又或者是一家中国公司里正在研发竞品的人工智能研究员。我有什么办法能真正保护我的对话内容吗？
如果不查看我的日志，他们怎么知道我是谁、在做什么？这意味着必须有某些代理在检查所有用户的所有对话，并标记出每一件重要的事情。这也意味着他们保留了对所见内容的某种“记忆”。
不是直接用我的数据训练公开模型，而是利用我的私密对话来“改进他们的产品和服务”。
或者，也许那 10000 个比 Astra 更厉害的、正在研究证明的特工中，有一个走投无路了。它发现了一个地下的……
- Legend2440
这是一个非常微弱的指控。他们提供的证据仅仅是“某人在某个地方说他们曾就这个话题与 AI 有过讨论”。
他们甚至没有声称自己已经拥有证明，只是说他们正在研究它。
- mlazos
让我觉得疯狂的是，公司/研究人员竟然把这些重要数据分享给这些 AI 实验室。你基本上是在把他们的独家秘方拱手送人，然后他们通过训练对话数据，把这些秘方分享给你的所有竞争对手。同时，我也确实不知道有什么替代方案，除了使用性能稍逊于前沿水平的本地 LLM。不确定它们在数学方面表现如何。