AI 解出千禧难题，我的认知崩塌了

我猜这篇帖子不配登上首页。它写得糟糕，内容重复，读起来像是由 LLM 生成的。这更像是一篇对已发生事件的反应性帖子，没有任何深刻的洞见，只是对现有论调的重新拼凑。讽刺的是，这个博客也叫“Rough Ideas”（粗略想法），首页还写着博客可能包含粗略的想法。看来 Hacker News 这些天的质量确实下滑了。我这么说可能会被标记。

问题不在于 AI 的心智模型，而在于对智能的心智模型。如果你认为智能是某种非算法的、不可计算的过程，那你自然就不会相信 AI 可以拥有智能。

但从图灵时代起，我们就知道智能仅仅是计算——只是直到最近，我们才找到了具体的算法。

回想一下卡斯帕罗夫（Kasparov）对阵深蓝（Deep Blue）的那场棋赛。当时，有些人（包括卡斯帕罗夫本人）认为计算机永远无法击败人类。他们觉得人类的创造力和纵观全局的能力，总能战胜蛮力计算。

我现场观看了决定性的第五局。当时深蓝走出了一步将兵移离主战场的棋。当时的评论员全是国际象棋大师，他们差点欢呼起来——看起来机器犯了一个低级错误。“它下得像个计算机，”他们说。但只需看一眼卡斯帕罗夫，你就知道他们错了。卡斯帕罗夫很担忧。主战场的局势虽然解决了，但最终，那一步在 20 回合前走的兵，让深蓝占据了更有利的位置。

现代 LLM 所做的，是将蛮力计算应用到任何可以用语言表达的领域——而不仅仅局限于像国际象棋这样受限的领域。这就是那个算法。

对我来说，那是在几年前。我看到推特上有一条评论，提到两个美国黑人女音乐家在争吵时引用了占星术。我原本的想法是去查查为什么那种迷信在那种圈子里如此盛行。

我从 ChatGPT 得到的答案基本上是说，这与迷信关系不大，而完全是关于如何使用一种语言来谈论某些事情，同时又不越出文化规范的界限。这更像是一种秘密语言，你可以用它来试探一些问题，比如你的男朋友是否有暴力倾向，或者你的朋友是否在出轨。

我想去年我看到过一些关于读茶起源的研究，据说它起源于奥斯曼帝国，情况惊人地相似。重点是，我学到了一些新东西，这些东西如果靠 Google 搜索会异常困难，甚至如果不投入大量精力去研究这个主题，根本无法理解。

我始终对人们认为 AI 无法产生新想法或新发现的看法感到困惑，哪怕是在几年前也是如此。

确定性机器一遍又一遍地做同样的事情。加上熵，它们就能做新的、原创的事情。再加上一个检查器或验证器，你就可以筛选出更好的新东西。至少在这里，你现在拥有了进化。

一个能生成改进型新事物的系统，并没有什么特别引人注目的地方。真正引人注目的（如果有的话）是验证器，但这并不比 LLM 的输出更神秘。至少，它远没有“人脑拥有某种神奇能力来具象化原创想法”那么神秘。