AIが生む「デコヒーレンスの罠」がソフトウェアを崩壊させる

The Decoherence Trap

システム内に局所的には正しいが互換性のないモデルが積み重なり、変更コストがそれらの翻訳と副作用の防止に支配される状態を「デコヒーレンス」と呼ぶ。変化の速さに比例して加速的に増大し、AIの普及がこれを持続不可能な速度で生み出している。著者は配管の改修やShip of Theseusを例に、場当たり的な修繕が複雑さを爆発させ、やがて誰も安全に迷路を進めなくなる「デコヒーレンス崩壊」への警鐘を鳴らす。