AI 正在让我们集体失去理智
Everybody's Lost Their Minds
作为一名每天与 AI 打交道的工程师，我感到工作乐趣正在被剥夺。如今，没有工程背景的人也在推销所谓的行业变革方案，而邮件和文章充斥着空洞的 LinkedIn 风格。AI 公司一边利用知识产权制造危险内容，一边以“伦理除外”为由疯狂消耗资源。像 Anthropic 和 OpenAI 发起的漏洞研究项目，虽然发现了成千上万个漏洞，却没能解决安全的核心瓶颈——补丁更新。更讽刺的是，AI 公司一面呼吁监管，一面加剧环境破坏。AI 正在用依赖取代理解，让我们主动放弃技能，最终导致系统变得无法调试。
AI 正在钝化它的使用者；它用新的依赖和成瘾逐步取代理解，让你主动让自己失去技能。
HN 评论区
336- BadBadJellyBean
我完全共鸣这篇帖子。我受够了去“指挥”那些智能体，实际上感觉更像是在试图驱赶一群学步的幼儿。
没错，它们写出的代码大多比幼儿强，但这种不断的推搡、提醒、重申，以及阻止它们为了一个一次性脚本而耗尽整个公司的 token 预算，真的让人精疲力竭。我感觉这样做正在让我的脑力流失。也许这确实更快，但爆发性腹泻也是产生排泄物更快的方式。
- kragen
这篇帖子看起来没什么深思熟虑。我的意思是，仅凭它要么挺 AI 要么反 AI（这次是后者）这一事实，我大概就能看出来，但这篇帖子尤其缺乏思考。这里其他人已经指出了那个浪费水资源的红鲱鱼谬误，但文中还有几处胡扯——比如泛泛的环境末日论调，以及将递归自我改进贴上“神秘”的标签等等。
至于我，我把 Claude Opus 5 指向一个我经营多年的 C 代码库，它立刻发现了五个严重漏洞，并告诉我如何修复它们，还教我怎么用一些我不熟悉的 Linux 系统调用来解决其他问题。我还给它看了一种我几年前写的 PEG 新语言，当天下午它就给我写出了一个可运行的 OCaml 实现，顺便修复了我示例语法中的几个漏洞，并解决了我一直卡壳的一个概念性问题。我让 Fable 5.1 实现一个最小化的证明助手，它用 Python 写了一个 J-Bob 的克隆版，我现在正在研究它。虽然这些东西确实有某种“消防水龙”般的特性，但我肯定不打算用 AI 来主动让我的大脑退化。
这当然不能保证 AI 总体上是一项有益的革新！和大多数革新一样，它可能取决于人们利用这项革新掌控自己生活的能力，与人们利用它掌控他人生活的能力之间的平衡。（除非……）
- grebc
我有个抱持已久的个人理论：社会大约每 10 年左右就会集体失去理智一次，通常始于一个正当理由，但结果却是大众愚蠢，继而集体遗忘，从而开启新一轮循环。反恐战争、全球金融危机、加密货币、新冠疫情，现在是 AI。虽然这个循环似乎正在缩短。
而且我们就是该死的愚蠢，学不会历史，甚至学不会比我们大 10 岁的人的经验，所以我们不断重蹈覆辙。
我想，这就是为什么会有“每分钟都在诞生新的傻瓜”这种说法吧。
- sandinmyjoints
> 人力资源仍然是零和博弈，每个个体在自己的智能体孤岛里感觉超级忙碌，同时做着一千件事，这最终并不能帮助解决那些需要跨职能协作和团队合作的项目。
这话在理。
- bucket2015
有趣的是，软件工程师群体正日益分裂：一部分人对 AI 非常满意并更倾向于依赖它，另一部分人则越来越怀疑或沮丧。
我不知道这会如何发展，但我以前从未见过这种情况。
- limaoscarjuliet
我一开始很讨厌 AI，但后来逐渐对它改观了。它确实帮我写代码。而且它每天都在变得更好，有时甚至是字面意义上的。
- Ancalagon
我觉得写代码这件事从来就有两个阵营，呈现强烈的双峰分布。一类人关心代码的感知质量（也就是所谓的“工匠精神”），另一类人把代码仅仅视为达成目的的手段。至少我一直感受到这种张力。当然总有例外，同一个人一天之内也可能在两个阵营间摇摆，但通常会偏向一方。我知道我是这样。而且一方并不比另一方更好，两者都可能非常聪明且出于好意。在营利性企业中，你需要两者才能成功。这个话题已经被讨论得令人作呕，但我特别喜欢的一个比喻是耶稣基督对詹姆斯·邦德。詹姆斯·邦德大多数时候会赢。大多数人倾向于像詹姆斯·邦德那样思考，如果他们不这样，组织也会强烈地推动他们朝这个方向走，晋升由此决定，进而形成自我强化。
现在出现了一个强大的新工具，我想耶稣基督阵营是时候认输投降了。
- 3pm
我今天很喜欢 Timnit Gebru 这篇精彩的 rant。标题大概是