AI 리더들의 종말론은 하나의 과대광고다
For AI leaders Doom is a form of hype
Anthropic의 정렬 과학 책임자 Evan Hubinger가 향후 10년 내 AI가 인류를 멸종시킬 확률이 10% 이상이라고 주장하자, 저자는 AI 리더들의 종말론적 발언이 과대광고의 한 형태라고 비판한다. 2023년부터 2026년까지 이어진 일련의 발언들을 분석하며, 이러한 종말론이 규제 포획, 노동 시장의 실제 피해, 그리고 AI 안전에 대한 진지한 논의를 가로막고 있다고 지적한다.
내 불만은 이 발언들이 놀랍다는 것이 아니다. 그것은 형식적으로 종말론적이고, 구조적으로 위선적이며, 효과적으로 전략적 생산성을 띠고 있다는 점이다 — 그리고 그것이 우리가 논의할 수 있는 거의 모든 다른 것들을 밀어낸다는 점이다.