AI如何发现人类忽略的科学方向
The alien space of science: Coherent but cognitively unavailable directions
科学发现不仅受限于真理，更受限于研究者的认知边界。许多方向在文献中逻辑自洽，却因缺乏跨领域社区而无人提出。现代LLM往往只是重组现有高密度知识，难以突破这一局限。这项研究瞄准“Alien Space of Science”：那些科学上合理但现有研究者几乎不会探索的方向。通过将论文分解为概念单元并构建“idea atoms”词汇表，结合coherence模型与availability模型，系统能筛选出高可行性但低可用性的研究组合。在16,068篇NeurIPS、ICLR、ICML等顶会LLM论文中验证，该方法生成的研究组合比前沿LLM基线更丰富多样，且质量相当甚至更优。时间验证显示，仅用2025年前数据，就能以35.9倍于随机概率复现2025年的真实研究组合。这标志着AI正从加速科学转向拓展科学边界。
我们的框架将科学可行性与社区可用性分离开来，指向一种能补充而非仅仅加速人类科学的AI创意生成方式。
HN 评论区
18- martincsweiss
本文合著者在此——我的博士后第一篇论文已被 NeurIPS 主会录用。
我们构建了一种在机器学习领域采样多样化想法的方法：这些想法在科学上站得住脚，但没有任何现有的研究社群具备提出它们的条件。
简而言之，其工作原理如下：
1. 将 16,068 篇 LLM 论文（涵盖 NeurIPS、ICLR、ICML、ACL、EMNLP，时间跨度 2017 至 2025）拆解为 273 个“想法原子”。每篇论文、每个候选想法都转化为一组原子。
2. 训练一个连贯性模型（Coherence Model）：一个拥有 4.28 亿参数的 Transformer，以论文作为原子序列进行训练。本质上，这是一个以“想法”为 token 的语言模型。
3. 训练一个认知可用性模型（Cognitive-Availability Model）：一个双编码器，基于 39,791 名研究人员的发表历史训练，用于预测每位研究者下一步可能走向何处。
4. 利用上述模型，通过互斥排名融合（reciprocal rank fusion）对采样的元组进行打分（我们要找的是彼此契合度高，但对任何人来说都“认知不可达”的想法）。
我们通过多种方式进行了测试。其中一种有趣的方式是：我们取 2024 年底的所有论文，然后检查哪些高分元组出现在了 2025 年的论文中。效果很好——例如，一篇 ICLR 2025 的口头报告，仅凭连贯性时排名为 1,489，但在 114 万个采样样本中跃升至前 25 名。
还有个有趣的发现：如果你让 Claude 想一个机器学习研究点子，它通常会关于可解释性。如果你随后用几块 A100 运行一个自动研究流水线来验证这个点子，结果往往 8 次里有 8 次还是关于可解释性。而我们的“外星采样”（Alien Sampling）方法则保持在 […]
- tauntz
昨天有个类似的概念在流传，不过那是针对游戏领域，而非科学领域。
- smallerize
天哪，这就是我自从 Word2vec 以来一直在等待的语义空间的杀手级应用。