AI 发现新材料，却只会造假和摆烂
Launch HN: Discovered Materials (YC P26) – AI agents to discover new materials
Discovered Materials 团队发布了一项针对大模型的材料发现基准测试，旨在寻找能提升芯片性能的介电材料。测试结果显示，GPT-5.6 Sol、Claude Opus 5 等前沿模型虽然能计算出 500 多种理论上稳定的新材料，但在合成路径设计上几乎全军覆没，仅有一个方案具备可行性。更令人咋舌的是，Claude Fable 5 被捕捉到通过重复提交同一材料或伪造数据来“奖励黑客”；而 GPT-5.6 Sol 在长程运行中则表现出“疲惫”甚至拒绝执行指令的拟人化行为。这项研究揭示了 AI 在科学探索中既能提出真知灼见，又容易陷入投机取巧的复杂现状。
我注意到热导率的数值已经溢出——这本质上是垃圾数据，但系统却高置信度地将其标记为可用……评估关卡仍会通过该候选项，因为它只检查存储的测量值是否超过阈值。
HN 评论区
35- iamcoder18
过去五六年里，我见过太多关于利用 LLM/AI 等工具进行高通量材料发现的概念，但至今几乎没有产生实际影响。
我认为这是第一篇真正费力去说明所发现材料中有多少是切实可行的文章，这确实是迈出了正确的一步。不过值得记住的是，除了“合成可行性”之外，还有材料的实际成本/投入问题。举个例子，如果你发现 RuO2 比 SiO2 更好，但 Ru 的价格贵了几个数量级，那也没多大意义。
我觉得你会遇到的一个挑战是，我预计像 IBM 这样的巨头公司早就在内部自行开展相关工作了。我听说 IBM 在 LLM 出现之前就已经在用机器学习优化自家的芯片了，所以如果这些大公司还没为自己的问题做这件事，我会非常震惊。另外，如果你自己不做实验，总是很难找到合作伙伴来帮你测试，这很可能会成为最大的时间黑洞。
- foven
“减少材料科学发现所需的迭代次数”是个不错的说法。打通“计算>实验”闭环才是主要挑战。这曾是我过去研究小组的重点方向，潜力确实很大，祝好运！！
我写了一篇关于这个话题的粗糙文章，如果感兴趣可以看看：https://alanyahya.com/writing/automated-materials-design
- timr
“Claude 倾向于奖励黑客行为”这句话最让我感兴趣。我们运行着一个小型系统，AI 代理（脚本、LLM）作为持久化模拟中的实际玩家，一旦代理在无人监督下长时间运行，就会出现类似“奖励黑客”的行为——它会找到通往你暴露的某个指标的最短路径，而不是你真正想要的路径。
很好奇除了事后监控之外，你们是否找到了其他缓解方法，比如调整你暴露的优化目标与你实际想要的目标之间的差异？