AI 垃圾泛滥：陷入 Decoherence 陷阱

The Decoherence Trap

文章提出了 Decoherence 这一概念，指系统中局部有效但互不兼容的模型不断累积，导致变更成本被模型间的转换和防止意外副作用所主导。这就像 AI 生成的垃圾内容（slop）在无尽的噪声海洋中淹没了真正的信号。随着系统变化速率加快，Decoherence 呈指数级增长。虽然这阻止了失控的递归自我改进（intelligence explosion），但我们正奔向另一种灾难：Decoherence Collapse。就像用不同标准的管道修补建筑，最终形成无法维护的补丁系统，软件中的技术债务也会因这种渐进式替换而演变成无法穿越的迷宫，让最聪明的工程师也迷失其中。