교생, '사적인' 스냅챗 메시지로 체포…1시간 만에 경찰이 학교에 도착했다

Student teacher arrested for private Snapchat message

Snapchat의 자동화된 AI 시스템이 교생 Kristen Volpe가 세 명의 지인에게 보낸 사적인 다이렉트 메시지를 플래그하고, 60분 이내에 FBI에 신고했다. 볼페는 수업 중 학생이 노트북을 닫아 수업 계획이 지워지자 좌절감에 '학생이나 학교에 총을 쏘겠다'는 농담을 보냈지만, 알고리즘은 이를 위협으로 간주했다. 경찰이 학교에 도착해 그녀를 체포했고, 그녀는 무질서 행위로 기소되었으나 기소는 되지 않았다. 이 사건은 Snapchat이 사용자의 '사적인' 메시지를 서버 측에서 스캔하고, 영장 없이 법 집행 기관에 긴급 공개할 수 있는 파이프라인이 이미 작동 중임을 보여준다.