AI曾很伟大，直到它不再

我很庆幸在这些东西上市前就拿到了博士学位。听起来那会是一段截然不同的经历，我怀疑自己可能无法像现在这样，对论文主题有如此扎实的把握。

她关于 Mathematica 笔记本的评论真的让我感同身受。作为一名科学家而非软件工程师，我把代码当作加速工作中更关键部分的工具，我很高兴能有机会在工作中学习编程技能。我可以为此辩护，因为由此节省的时间远超我花在学习上的时间。但现在我做不到这一点了。我不再构建软件，只是写脚本，所以即便是今天最便宜的模型，也能比我亲自写代码更快地给我提供合适的代码。因此，我再也无法为在工作时间学习新的编程技能找到理由了。我很庆幸在这些工具出现前的那几年里，我有机会掌握了基础知识。

当面对面的协作能增进理解，并在双方之间催生新想法和新方法时，社会将受益。

既然现在的潜在合作者都在消费更多或更少相同的生成内容，很难看出 AI 将如何取代这一点。

更不用说它造成的进一步疏离感了，正如文章中强烈暗示的那样。

在叙事层面上，我某种程度上同意这篇文章的观点。

最近，我对我们 LLM 未来的看法也稍微阴暗了一些。

我发现 LLM 与《三体》小说中的“智子”之间的类比越来越准确。具体来说，是指它们在阻碍人类进步方面的影响。当然，任何人都可以选择不用 LLM（这与智子不同），所以在这个意义上，对进步的限制似乎有点“软”，但在我看来，有人选择这么做的几率并不高。避免强迫自己去学习或探索困难的东西，转而直接问模型，这要容易得多。

虽然我倾向于支持在软件工程领域这样做（前提是标准和质量控制方面的进步能跟上原始代码生成的速度……），但我与 Tao 和其他人一样，对数学领域（不仅仅是数学；计算机科学，作为 SWE 的基石，也处于聚光灯下）抱有同样的担忧。

> 特别是，毁掉让我们生活有意义的少数事物之一，会相当悲哀。这并非指那些花哨的奖项或光鲜的职位，而仅仅是拥有一个可以分享、讨论和学习的社区。

完全正确。不过这个问题有点奇怪，因为至少有几种独立的力量在这里共同作用：

(1) 发明 AI 或支持 AI 的人，通常是那些被 conditioning 成享受“信息快感”、并将个人肤浅的愉悦置于人际互动之上的人。很多极客/书呆子单纯热爱这样一个游乐场：在这里无需真正与微观世界之外的人互动，所以他们觉得 AI 是自切片面包以来最伟大的发明。这些人往往在学校里被嘲弄，或者早年因聪明而至少部分被孤立，因此从科技中寻求情感慰藉。

(2) 学术界扭曲的激励机制奖励发表，而资本主义的总体激励机制则引发了一场军备竞赛，旨在不惜以“社区”等商品为代价，追求尽可能高的效率，而这些商品往往只在资本主义体系之外带来模糊的收益。所以人们倾向于使用 AI。

(3) 非常先进的技术本身就会削弱甚至摧毁较小的社区，其成员随后会寻求技术作为一种肤浅的安慰剂，以缓解他们意识或潜意识中感觉到的某种缺失。

AI 从来就不伟大。将知识本身作为目的并不是一件好事，我们应该追求知识 t […]