AI 正在让我们集体失去理智
Everybody's Lost Their Minds
作为一名每天与 AI 打交道的工程师，我感到工作乐趣正在被剥夺。如今，没有工程背景的人也在推销所谓的行业变革方案，而邮件和文章充斥着空洞的 LinkedIn 风格。AI 公司一边利用知识产权制造危险内容，一边以“伦理除外”为由疯狂消耗资源。像 Anthropic 和 OpenAI 发起的漏洞研究项目，虽然发现了成千上万个漏洞，却没能解决安全的核心瓶颈——补丁更新。更讽刺的是，AI 公司一面呼吁监管，一面加剧环境破坏。AI 正在用依赖取代理解，让我们主动放弃技能，最终导致系统变得无法调试。
AI 正在钝化它的使用者；它用新的依赖和成瘾逐步取代理解，让你主动让自己失去技能。
HN 评论区
274- BadBadJellyBean
我深有同感。我受够了去“指挥”这些代理，实际上感觉更像是在试图驱赶一群幼儿。
没错，它们写出的代码大多比幼儿强，但这种不断的推搡、提醒、重申，以及阻止它们为了一个一次性脚本就耗尽公司整个 token 预算的行为，真的让人精疲力竭。我感觉自己在这个过程中正在丧失脑力。也许这确实更快，但急性腹泻也是制造排泄物更快的方式。
- kragen
这篇帖子看起来缺乏深思熟虑。我是说，仅从它要么是挺 AI 要么是反 AI（这次是后者）这一点，我大概就能看出来，但这篇帖子尤其缺乏思考。这里其他人已经指出了那个浪费水分的红鲱鱼谬误，但这里还有好几处胡扯——比如泛泛的环境末日论调，以及将递归自我改进贴上“神秘”的标签。
我本人把 Claude Opus 5 指向一个我工作多年的 C 代码库，它立刻发现了五个严重错误，并告诉了我修复方法，还指导我如何使用一些我不熟悉的 Linux 系统调用来解决其他问题。我还给它看了一种我几年前写的新语言（用于 PEG），那天下午它就为我用 OCaml 写了一个能运行的实现，顺便修复了我示例语法中的几个错误，并解决了一个让我卡壳已久的概念性问题。我让 Fable 5.1 实现一个最小化的证明助手，它用 Python 写了一个 J-Bob 的克隆版，我现在正在研究它。虽然这些东西确实有一种信息过载（firehose）的感觉，但我绝对不打算用 AI 来主动让我的大脑退步。
当然，这并不能保证 AI 总体上会是一项有益的革新！就像大多数创新一样，它可能取决于两方面力量的平衡：是人们利用这项创新掌控自己的生活，还是人们利用它去掌控他人的生活。（除非……
- grebc
我有个长期持有的观点：社会大约每 10 年左右就会集体失去理智，通常始于一个正当的理由，但结果却是大众愚蠢，随后是大众遗忘，从而开启新的循环。反恐战争、全球金融危机、加密货币、新冠疫情，现在是 AI。尽管这个循环似乎正在缩短。
而且我们就是该死的愚蠢，学不会从历史中吸取教训，甚至学不会向比我们大 10 岁的人学习，所以我们不断重演这个循环。
我想，“每分钟都有一个新傻瓜出生”这句话大概就是这么来的。
- sandinmyjoints
> 人力资源仍然是零和游戏，每个个体在自己的代理孤岛里忙得不可开交，同时处理一千件事，最终却无法帮助解决那些需要跨职能协作和团队合作的项目。
这话说到点子上了。
- bucket2015
有趣的是，软件工程师群体正日益分裂成两派：一派对 AI 非常满意并更倾向于深入使用它，另一派则越来越怀疑或沮丧。
我不知道这会如何发展，但我以前从未见过这种情况。
- limaoscarjuliet
我一开始就讨厌 AI，但后来逐渐对它改观了。它确实帮我写代码。而且它每天都在变得更好，有时甚至是字面意义上的每天。今天我认为它只是一个工具。就像木匠用的气钉枪。它帮助我们做得更快，甚至可能做得更好。哦，最近还坐了 Waymo，它确实把我安全地送到了目的地。所以它有些事情确实做得对。
但真正的答案没那么简单。我最近有个朋友问我：“我孩子想从事软件开发，我该让他去吗？”哎呀，糟了，也许该考虑点别的？
- 8bitsrule
我今天很喜欢 Timnit Gebru 这篇精彩的 rant。标题大概是