딥페이크 시대, 이제는 '진짜'를 증명해야 한다

I Don't Trust Visual Recordings Anymore. But One Day I Will Again

딥페이크 시대, 이제는 '진짜'를 증명해야 한다

다트머스 대학의 Hany Farid 교수는 30년간 디지털 미디어 조작 탐지 기술을 연구해 왔다. 그는 이제 시각 기록물에 대해 '진짜일 것'이라는 기본 가정을 버리고 '가짜일 것'이라는 기본 가정으로 전환해야 한다고 주장한다. C2PA 표준의 콘텐츠 크레덴셜, Google의 SynthID 워터마크, Apple의 참조 이미지 서명 등 출처 증명 신호가 그 해법이다. 이 신호들은 악의적 행위자를 잡기 위한 것이 아니라 선의의 행위자가 자신의 기록이 진짜임을 증명할 수 있게 한다. 실시간 화상 통화에서도 각 프레임에 암호화 서명을 적용해 딥페이크를 걸러낼 수 있다.

이제 우리는 '악의적 행위자를 잡는' 모델에서 '선의의 행위자를 지원하는' 모델로 전환해야 한다.
  1. fedpost

    이 서명 방식들은 현재로서는 실현되기까지 아주 먼 이야기입니다. 널리 채택되고 즉시 무력화되지 않는다 해도, 광범위한 보급까지는 10년 이상 걸릴 겁니다. 온라인에서 보는 대부분의 "미친 영상"은 곧 교체될 기미가 없는 구형 휴대폰에서 나온 것입니다.

  2. lowbloodsugar

    DSLR이나 휴대폰의 키를 충분히 동기 부여된 행위자가 추출할 수 없다고 상상하는 걸까요? 아니면 그런 기기의 센서를 대체 이미지 생성기로 교체할 수 없다고요?

  3. nayuki

    > 예를 들어 C2PA 표준을 따르는 자격 증명은 촬영 순간 사진이나 비디오에 암호화 서명된 매니페스트를 첨부하며, 이 메타데이터는 기기, 녹화 시간 및 위치를 기록합니다

    이 주장은 깔끔한 해결책처럼 들리지만, 제 직감으로는 실제로 문제를 해결하지 못합니다. 왜 틀렸다고 생각하는지 정확히 설명하기 어렵지만, 몇 가지 아이디어를 나열해 보겠습니다:

    * 카메라는 아마도 비대칭 개인 키를 보관할 것입니다. 카메라는 사용자 손에 있고, 칩을 제거하고 조사하여 극도의 어려움을 무릅쓰고 키를 추출할 수 있습니다. 이 세상에서 이를 할 지식과 장비를 가진 사람은 극소수지만, 한 사람만 시스템을 깨뜨리면 모두에게 피해가 갑니다.

    * 카메라 제조사가 부주의로 키를 유출할 수 있습니다. 기업이 TLS/SSL 개인 키나 다른 암호 비밀을 유출한 다른 사례를 보세요.

    * 이 방식은 소수의 기업에게 독점적인 방식으로 이미지 진위를 정의할 막대한 권한을 부여하는 것 같습니다. 이런 게이트키핑은 사회에 좋은 방향이 아닌 것 같습니다.

    * 누군가 시스템을 깨뜨리기로 결심하면 결국 누군가는 해냅니다. DRM의 역사와 수많은 방식이 깨진 것을 보세요. Intel SGX가 깨진 것(물리적 하드웨어 소유자가 해당 계산을 검사할 수 없으면서 다른 사람을 대신해 CPU가 비밀 계산을 실행할 수 있다고 주장)을 보세요.

    * 일부 이미지 인증 방식은 깨졌습니다. 예를 들어 ElcomSoft가 구형 ve […]를 깨뜨린 것처럼요.

이 날의 다른 글

2026-11-21