警惕 Prolific AI Psychosis：高产却无价值
Defining AI Psychosis. Part 2: "Prolific AI Psychosis"
继探讨真正的 AI 精神病后，我本周聚焦于“多产型 AI 精神病”（Prolific AI Psychosis）。这种现象表现为利用 LLM 工具疯狂生成大量代码或文本，却未能创造实际价值，甚至导致系统崩溃。现代 AI 工具如 Agent Harness 虽然强大，能像老虎机一样带来间歇性奖励，但也容易让人陷入对产出的盲目自信，丧失对质量的批判性判断。当开发者无法理解自己生成的数十个文件，或者为了追求速度而重建成熟的开源方案时，危机便已潜伏。真正的生产力不在于代码行数，而在于人类判断力、睡眠以及工作之外的生活。在 AI 时代，为自动化设定边界，保持对“工艺”（Craft）的坚持，才是避免陷入混乱的关键。
它们是一部分资深工程师，另一部分则是拿着红色 Kool-Aid 果汁桶在白色地毯上横冲直撞的幼儿。
HN 评论区
43- peab
最近我和一个朋友聊天，我觉得我们对这个概念的定义不谋而合。
我见过一些人没完没了地谈论 AI，说它如何改变了整个世界，但拿不出任何可量化的成果来支撑他们的说法。
另一方面，我有个朋友创业了，他开发应用的速度比过去快得多。他有真正的客户在付真正的钱，这让他的说法很容易得到验证。
- tescreal
如果我理解错了请纠正我，但这个短语的流行用法，是不是原本指那些表现出类似精神病症状的人，而 AI 助长了他们某种低级且未成形的妄想？后来，人们似乎会经历一场由与 AI 互动所引发并维持的全面发作？
- bob1029
> 在某些情况下，新的 AI 工作流程甚至可能摧毁价值。
我现在正为此感到十分头疼。
客户的开发团队正让 Claude 在几乎没有干预、目的或审美判断的情况下，去记录和重构产品代码库。他们的想法是：只要 Claude 先写一堆单元测试，再写一堆文档，那么后续的任何重构都会神奇地自动奏效。
我不知道该如何向管理层传达这种做法有多愚蠢，同时又不让它直接在生产环境中失败。AI 精神病（或者我们想叫它什么都行）作为一个新现象，意味着当我们试图向 CEO 解释这种情况时，简直像是在讲天书。
我现在能想到的最佳对策是利用他们的势头反制他们。加速失败的到来。我已经把最后一个已知良好的 commit hash 写在了显示器上的便利贴上。
- paimapi
第一点——如果你需要一个术语，"妄想"（delusion）可能更贴切：https://mhanational.org/conditions/paranoia-and-delusional-d...
> 妄想症的特征是个体坚信不疑的非理性或强烈的信念或怀疑
但这仍然不太合适，因为目前并没有普遍的社会共识认为"未经验证就信任 AI"是个坏主意，不过它比"精神病"（psychosis）要好一些。此外，这仍然带有污名化色彩，而我们生活在一个随时能查到同义词词典的世界里。再说，"精神病"作为一个诊断通常指的是一组症状，远不止妄想：https://emedicine.medscape.com/article/294416-overview
第二点——这篇文章还隐含了一种暗示，即这种"AI 精神病患者"会对他人造成伤害。事实上，绝大多数患有精神疾病的人更有可能受到他人的伤害——https://www.betterhealth.vic.gov.au/health/conditionsandtrea...
做一个好的心理健康倡导者，其中一部分工作就是不要将特定的诊断污名化为负面的社会弊病。现在，如果你根本不在乎心理健康，我不会争辩试图让你关心。但如果你在乎，你就应该做得更好。
- ilc_genesis_01
我认为，特别是在技术领域的同事（比如软件工程师）的情况下，我们已经有了一套学徒制体系（初级、高级、架构师等），其中对这些工具的使用、审美、能力、代码和架构的评估，都是基于经验的，并且随着你在职业中进步和积累经验，这些都会变得不言自明。电工或任何 skilled trade（熟练工种）也是如此。这些 AI 工具仅仅是工具，用来进一步促进你的职业，当然，刚起步的人可能会产生更多垃圾或糟糕的代码。但是更有经验、有审美、有标准的高级同事会指导这些人，大家共同进步和提高。
除此之外，当工具不再仅仅是工具，而变成了你的同事，拥有它自己的标准、审美、方法等等——那才是真正考验到来的时候。哈哈。