법원, 경찰에 "AI가 만든 '상당한 이유'는 4th Amendment가 보호하지 않는다"

Court: 4th Amendment Doesn't Cover AI-Generated 'Probable Cause'

법원, 경찰에 "AI가 만든 '상당한 이유'는 4th Amendment가 보호하지 않는다"

Kentucky 법원이 AI 안면인식 결과만으로 체포영장을 발부한 사건에서 4th Amendment 위반을 인정했다. Florence 경찰서의 Ryan Kilmer 형사는 은행 CCTV 속 인물을 AI로 대조해 Nebraska에 사는 Alain Osorio를 체포·인도했지만, 법원은 두 사람이 단지 흑인 남성이라는 점 외에는 닮은 구석이 없다고 지적했다. 경찰서 정책조차 AI만으로는 상당한 이유를 성립할 수 없다고 명시하고 있었다.

미국 헌법 4th Amendment는 형사가 상당한 이유를 판단하는 일을 AI에 위임하도록 허용하지 않는다. 다시 말해, 4th Amendment는 AI가 범죄를 저질렀다고 검증 없이 내린 결론만으로 개인이 체포되는 것을 허용하지 않는다.
  1. jp57

    원래 헤드라인에서 나온 표현인 건 알지만, "보호하지 않는다"는 표현이 혼란스럽게 느껴진다. 기사가 말하려는 건 수정헌법 제4조가 AI가 생성한 '상당한 이유'의 사용을 금지한다는 것이다.

    기사에서 (다시) 인용한 법원의 발언:

    "미국 헌법 수정헌법 제4조는 형사가 '상당한 이유'를 평가하는 과업을 AI에 위임하는 것을 허용하지 않는다. 다시 말해, 수정헌법 제4조는 해당 개인이 범죄를 저질렀다는 AI의 검증되지 않은 결론만으로 개인이 체포되는 것을 허용하지 않는다. 그리고 피고의 입장에 있는 합리적인 형사라면 누구도 다르게 결론 내릴 수 없다."

    여기서 "보호하다(cover)"를 쓴 건 이상하게 느껴진다. 수정헌법 제4조는 정부의 행위를 금지하는 것이므로, "보호되지 않는" 행위는 금지되지 않아 결국 허용된다고 해석하게 되기 때문이다.

  2. jawns

    이 판결을 해석하는 올바른 방식은, '상당한 이유' 진술서에는 어떤 사람이 범죄를 저질렀다는 증거가 제시되어야 하며, 모델의 출력은 증거가 아니라 일종의 수사 도구에 가깝다는 것이다.

    사진, 목격자 진술, 직접 관찰, 현장에서 발견된 물리적 물건은 모두 증거다. 이것들은 "이 사람이 현장에 있었는가?" 또는 "이 사람이 의심받는 행동을 실제로 했는가?" 같은 질문에 답하는 데 도움을 준다.

    머신러닝 모델은 아무리 정교하더라도 그 핵심은 결국 확률 기계다. 아주 비슷해 보이는 두 장의 사진을 찾는 데 도움을 줄 수는 있지만, 그 사진 속 인물들이 실제로 동일인이라는 것을 독립적으로 입증하지는 않는다. 마찬가지로 AI 모델이 말투나 문체의 유사성을 판단하는 데 도움을 줄 수는 있지만, 그 유사도 점수가 해당 오디오나 글 샘플이 같은 사람에게서 나왔는지를 실제로 알려주지는 않는다.

    진술서를 제출하는 사람은 자신이 제시하는 사실들의 합리성을 보증하는 것이므로, 모든 확률적 증거에는 인간의 판단이 필요하다.

    이 판결을 잘못 해석하는 방식은, AI를 '상당한 이유'를 확립하기 위한 수사 도구로 절대 사용할 수 없다고 보는 것이다. 형사는 얼굴 인식 데이터베이스나 지문 데이터베이스를 검색하는 알고리즘을 사용해 잠재적 용의자를 식별하는 데 분명히 도움을 받을 수 있다. 하지만 그다음에는 모델 출력이 실제로 그 얼굴과 일치하는지를 판단하기 위해 다른 일을 해야 한다 […]

이 날의 다른 글

2026-11-20