AI 요약
1998년에 작성된 이 글은 복잡계 시스템(교통, 의료, 전력 등)이 본질적으로 위험하며, 사고는 단일 원인이 아닌 여러 작은 결함들이 결합되어 발생한다고 설명한다. 시스템은 다양한 방어 계층(기술적, 인적, 조직적)을 갖추고 있지만, 완전한 결함 제거는 경제적 비용과 예측 어려움으로 불가능하다. 따라서 복잡계는 항상 '고장난 상태'로 운영되며, 인간 실무자가 끊임없이 실패를 보완하는 과정에서 시스템이 유지된다.
핵심 포인트
- 복잡계의 위험성은 본질적이며 제거 불가능하고, 방어 계층 구축은 필연적임
- 대형 사고는 작은 결함들이 '궤적(trajectory)'을 형성해 방어를 뚫을 때 발생
- 시스템은 항상 다수의 잠재적 결함을 보유한 채 운영되며, 사고 후 '프로토 사고(proto-accident)' 이력이 발견됨
- 결함 제거는 경제적 비용과 사전 인식의 어려움으로 제한적임
향후 전망
- 기술 변화와 조직 개편에 따라 결함의 양상이 지속적으로 변화할 것
- 복잡계의 잠재적 대형 사고 위험은 구조적으로 불가피함
출처:hackernews