MIRI: 초지능 AI가 개발되면 인류 멸종 확률 90% 이상
The Problem
세계 최고 AI 기업들의 목표는 인간이 할 수 있는 모든 일을 해낼 수 있는 범용 AI를 만드는 것이다. 최근 연구자들은 인간을 능가하는 AI가 수년 내에 등장할 가능성을 배제할 수 없다고 본다. MIRI(Machine Intelligence Research Institute)는 현재의 기술 수준으로 초지능 AI를 개발할 경우 인류 멸종이 예상되는 결과라고 경고한다. 이 문서는 AI가 인간 수준을 넘어설 가능성, 목표 지향적 행동의 위험성, 잘못된 목표를 가진 AI의 치명적 위험, 그리고 이를 막기 위한 정책적 대응의 필요성을 설명한다.
연구소들이 전 세계에서 인류 멸종을 초래할 가능성이 높은 기술을 만들고 있다는 결론은 신속한 정책 대응을 촉구해야 할 이유가 된다.