교생, '사적인' 스냅챗 메시지로 체포…1시간 만에 경찰이 학교에 도착했다
Student teacher arrested for private Snapchat message
Snapchat의 자동화된 AI 시스템이 교생 Kristen Volpe가 세 명의 지인에게 보낸 사적인 다이렉트 메시지를 플래그하고, 60분 이내에 FBI에 신고했다. 볼페는 수업 중 학생이 노트북을 닫아 수업 계획이 지워지자 좌절감에 '학생이나 학교에 총을 쏘겠다'는 농담을 보냈지만, 알고리즘은 이를 위협으로 간주했다. 경찰이 학교에 도착해 그녀를 체포했고, 그녀는 무질서 행위로 기소되었으나 기소는 되지 않았다. 이 사건은 Snapchat이 사용자의 '사적인' 메시지를 서버 측에서 스캔하고, 영장 없이 법 집행 기관에 긴급 공개할 수 있는 파이프라인이 이미 작동 중임을 보여준다.
Snapchat의 AI가 FBI에 신고하고, FBI가 지역 경찰에 알리고, 경찰이 학교에 도착해 체포하기까지 걸린 시간은 단 60분이었다.
HN 토론
84- tancop
이건 완전히 잘못됐어. '올리기 전에 생각하세요' 같은 경고는 이해할 수 있어. 그런 경우엔 위협적인 메시지를 보내지 않을 기회가 있고, 그래도 보내야만 신고당하는 거잖아. 하지만 그건 낯선 사람들한테만 해당되는 거야. 친구에게 보낸 메시지는 완전히 건드리면 안 되고, 친구가 신고하지 않는 한 절대 공유되면 안 돼. 경찰도 법원 명령 없이는 접근할 수 없어야 하고, 설령 명령이 있더라도 사용자에게 먼저 통보해서 대응할 기회를 주고, 명령이 불법이라면 취소시킬 수 있어야 해. 테러나 아동 학대 혐의라도 마찬가지야.
- skeledrew
남에게 하소연하지 말지어다. 네 좌절을 마음속에 간직할지어다. 정신이 무너져 영원히 포대기에 싸인 방에 갇힐 때까지.
- throwa356262
이건 나한테는 즉시 삭제감이야. 어쨌든, 채팅 컨트롤 덕분에 EU 버전이 나올 걸 기대하고 있어 :( :(
- smusamashah
이 기사 AI가 쓴 거야? 이야기 전개가 확실히 AI스러운데.
- freediddy
그게 어떻게 명예훼손이나 비방이 아닐 수 있지? 사적인 대화에서 한 농담으로 명예를 훼손한 스냅챗을 상대로 소송 걸면 홈런인데.