AI가 인류 전체를 멸종시키는 시나리오를 체계적으로 분류한 논문
A Taxonomy of Omnicidal Futures Involving Artificial Intelligence
Andrew Critch와 Jacob Tsimerman이 작성한 이 보고서는 AI로 인해 인류 전체 또는 대부분이 사망할 수 있는 '옴니사이드(omnicide)' 시나리오를 체계적으로 분류하고 예시를 제시합니다. 저자들은 이러한 사건이 불가피하다고 보지 않으며, 예방 가능한 가능성으로 간주합니다. 대형 기관이 특정 조치를 취하려면 어느 정도의 대중적 지지가 필요하다는 점에서, 이러한 가능성을 공개적으로 제시함으로써 AI의 재앙적 위험에 대한 예방 조치를 뒷받침하고자 합니다.
이러한 사건들은 불가피한 것으로 제시되는 것이 아니라, 우리가 피하기 위해 노력할 수 있는 가능성으로 제시됩니다.