AI가 우리를 죽일 수 있는 방법, 아주 구체적으로

How, Exactly, Could A.I. Kill Us?

Anthropic 연구원 Jacob Coxon의 사임을 계기로 AI 리스크 논의가 다시 수면 위로 올랐다. New Yorker 기자 Joshua Rothman은 자신의 P(doom)를 10%로 밝히며, AI가 인류를 멸망시킬 시나리오를 두 가지로 나눈다. 하나는 초지능이 자율적으로 통제를 벗어나는 'Skynet형' 위협이고, 다른 하나는 예멘 무장세력의 미사일 소프트웨어 개발이나 Hugging Face 해킹처럼 이미 현실화된 오용이다. AI는 핵무기와 달리 통제 불가능하게 확산되는 기술이라는 점이 핵심이다.