한 기술자의 고백: AI가 인류를 멸종시킬 확률 10%라는 주장은 공포의 전염이다
The Contagion of Fear
한 엔지니어가 대학 시절 컴퓨터 바이러스가 퍼진다고 거짓말해 공포를 퍼뜨린 과거를 고백한다. 그는 전 Anthropic 직원 Jacob Coxon과 Anthropic의 Evan Hubinger가 AI가 10년 내 인류를 멸종시킬 확률이 10% 이상이라고 주장한 것을 이와 비교하며, 이런 주장이 근거 없는 공포의 전염이라고 비판한다. 그는 AI가 물리적 세계에서 행동하려면 인간의 통제와 책임이 필요하다고 강조하며, 특별한 주장에는 특별한 증거가 필요하다고 말한다.
우리는 칼 세이건의 지혜를 따라야 한다: 특별한 주장에는 특별한 증거가 필요하다. Coxon과 그 무리의 주장은 기술자가 할 수 있는 가장 특별한 주장이며, 우리는 그 주장에 상응하는 증거를 요구해야 한다.