복잡한 시스템은 어떻게 실패하는가

How Complex Systems Fail

복잡한 시스템(교통, 의료, 발전 등)은 본질적으로 위험하며, 수많은 방어 장치로 성공적으로 보호된다. 그러나 대형 사고는 단일 실패가 아닌 여러 작은 결함이 결합하여 발생한다. 시스템은 항상 저하된 상태로 작동하며, 사고는 언제든 발생할 수 있다. 사고 후 '근본 원인'을 찾는 것은 근본적으로 잘못되었으며, 사후 분석은 휴리스틱 편향에 오염된다. 인간 운영자는 생산과 방어의 이중 역할을 수행하며, 모든 행동은 불확실성 속의 도박이다. 안전은 시스템의 창발적 특성으로, 구성 요소에 내재하지 않으며, 사람들이 지속적으로 안전을 창조한다. 실패 없는 운영은 실패에 대한 경험을 통해 가능하다.