애플의 Reference Image에 맞서, 100달러 오픈소스 카메라가 스테가노그래피로 진짜 사진을 증명하다
Proof of Capture: Apple Reference Image, but open source and using steganography
애플이 AI 생성 이미지와 구분하기 위해 도입한 Reference Image에 대응해, María Benavente와 Alex Hornstein이 Recurse Center에서 100달러 미만의 오픈소스 카메라를 개발했다. 이 카메라는 ATECC608 암호 칩으로 촬영 순간 서명하고, DWT와 DCT 주파수 영역 워터마크로 perceptual hash를 이미지 픽셀에 숨겨 압축과 리사이즈에도 서명이 살아남는다. 애플이 C2PA 같은 개방형 표준 대신 자사 Private Cloud Compute에 신뢰 루트를 두는 점을 비판하며, 화면 촬영 공격 등 완전한 해결은 아직 어렵다고 인정한다.
탐지는 지는 경주다. 탐지기가 개선될 때마다 그것은 다음 생성기의 훈련 신호가 된다.
HN 토론
63- Retr0id
> 우리는 정확한 픽셀 체크섬이 아니라 이미지의 지각적 해시(pHash)에 서명합니다
지각적 해시는 암호학적이지 않습니다. 충돌 공격이 분명히 존재하지만, 원상(preimage) 공격은 어떨까요? 원상 공격은 이 체계를 완전히 무너뜨릴 것입니다.
이 논문은 PhotoDNA와 PDQ에 대한 제2원상 공격을 보여줍니다: https://eprint.iacr.org/2021/1531.pdf
- fitzn
다음은 이미지에 작은 텍스트를 스테가노그래피로 삽입하는 장난감입니다:
- treyd
여기서 명백한 취약점을 지적하는 사람이 거의 없다는 게 이해가 안 됩니다. 바로 포토센서 컨트롤러로 들어가는 전선을 제어해서 포토센서가 원하는 어떤 이미지든 캡처하는 것처럼 속일 수 있다는 점이죠. 이걸 하는 게 정확히 사소한 일이라고는 생각하지 않지만, FPGA를 가진 대학원생이라면 아마 해낼 수 있을 겁니다.
- vzaliva
머지않아 모든 디지털 카메라가 찍은 이미지에 디지털 서명을 할 것으로 예상합니다. AI 쓰레기가 나오기 전에도 수동 조작을 피하는 데 유용했으니까요. AI는 그걸 너무 쉽게 만들어버리니, 당연한 일입니다.
하지만 이건 원본 이미지만 인증할 뿐입니다. 제가 생각하기에 빠진 부분은 회전, 대비 조정 등 일부 이미지 편집을 허용하면서도 이미지가 수정되었음을 명확히 기록하고 원본 이미지 ID로 연결해주는 추가 인증 계층입니다. 서명된 git log 같은 거죠.
- Lammy
미래에는 사람들이 암호학적 증명과 함께 24/7 스스로를 기꺼이 감시할 것입니다. 가짜 이미지와 영상이 너무 정교해져서 자신이 하지 않은 일을 증명할 유일한 방법이 될 테니까요. Total Information Awareness 달성 :D