C2PA 카메라, 현실과 맞닥뜨리면 무너진다
C2PA Cameras Do Not Survive Contact with Reality
David Buchanan(aka retr0id)은 C2PA(Content Authenticity)가 AI 위조로부터 우리를 구원할 것이라는 믿음이 얼마나 허술한지 증명한다. 그는 Android의 C2PA 카메라 앱이 Key Attestation과 Play Integrity에 의존하지만, 루트 권한 상승 취약점이나 저비용 하드웨어 결함 주입 공격으로 이를 우회할 수 있음을 보여준다. 특히, 완전히 패치된 Google Pixel 기기에서도 작동하는 원클릭 루트 익스플로잇을 이용해 C2PA 서명을 위조하는 방법을 공개한다. 심지어 C2PA가 '최고 보안 등급'으로 인정한 Pixel Camera 앱조차 취약하다. Google은 이 보고를 '수정 불가'로 분류했지만, 연구자에게 7,500달러의 현상금을 지급했다. 이 글은 C2PA의 신뢰 모델이 하드웨어 보안의 한계로 인해 근본적으로 깨져 있음을 경고한다.
C2PA 키는 여전히 StrongBox 하드웨어에 보호되어 있지만, 공격자는 원시 키 자료가 필요하지 않습니다. 루트 권한으로 StrongBox에 어떤 데이터든 서명하도록 요청하여 C2PA 위조를 만들 수 있습니다.
HN 토론
130- mistercow
이게 처음부터 명백히 실현 불가능했고, 앉아서 15분만 제대로 파고들면 전체 문제가 해결 불가능하다는 게 분명하다는 사실은 차치하고서라도, 내가 가장 답답해하는 점은 사진을 신뢰할 수 있는 증거로 보존하겠다는 그릇된 약속이 적극적으로 해롭다는 것이다.
완벽한 시스템을 만들 수는 없다. 완벽에 가까운 것조차도. 최선을 다해도 아무렇게나 AI 사진을 진짜처럼 보이게 하는 것을 어렵게 만들 뿐이고, 정말 중요한 경우만 남게 된다. '최선'의 경우에도, 그저 대중이 사진을 전반적으로 더 신뢰하게 만들어서, 진짜 돈이나 권력이 걸려 가짜 진위를 만들 가치가 있을 때 대중이 더 쉽게 속게 될 뿐이다.
이 시점에서 최선의 결과는 모두가 사진이 이제 그림과 거의 같은 증명 가치를 가진다는 데 동의하는 것이다. 진위를 증명하려는 생각이 부족한 돌팔이 노력은 그저 그 합의를 늦출 뿐이다.
- yaro330
안드로이드 보안에 대한 이런 재밌는 비난들이 많은데, 사실 Pixel은 업계에서 가장 안전한 기기 중 하나이고 Google은 보안에 엄청난 투자를 한다.
하드웨어 인증은 내가 아는 한 아직 깨지지 않았고, 소프트웨어 인증만 위조될 수 있으며, 그것조차도 Google이 Pixel 3 세대가 끝날 때까지 계속하는 끊임없는 고양이와 쥐 게임이다.
C2PA도 아날로그 구멍(analogue hole)에 면역이 아닌 건 사실이지만, 어두운 방 + 사진을 찍은 사진 방식은 이미지에 깊이 데이터를 통합하는 순간 무너지는데, 그건 이미 되어 있다.
- vanyle
이건 마치 '문 자물쇠는 현실과 맞닥뜨리면 무너진다'는 말처럼 읽힌다.
요점은 국가가 지원하는 행위자들이 가짜 미디어를 만드는 것을 막는 것이 아니라, 마케팅 대행사나 사진가들이 자신의 사진이 진짜라고 주장하는 것에 마찰을 더하는 것이다.
- spaqin
폰 카메라가 좋은 이미지를 얻기 위해 하는 AI 처리의 양을 고려하면, Pixel에 먼저 구현된 것이 다소 아이러니하다고 생각한다.
- trentor
이건 광고를 위한 규정 준수다. 고객이 AI를 프로젝트에 원하지 않으면 감사 추적을 보여주고, 만약 위조된 것으로 밝혀지면 위조한 공급업체를 가리키면 된다. 우리 대행사는 AI를 작품에 사용하고 싶지 않은 고객들 때문뿐만 아니라 EU AI 법 때문에도 보험에 가입했다. 그들은 공급업체가 AI 법을 준수하지 않을 때 속인 공급업체로부터 돈을 돌려받기 위해 C2PA를 사용한다.
- uqers
Google이 본질적으로 비밀번호의 클라이언트 측 검증과 같은 접근 방식을 구현하는 데 그렇게 많은 노력을 기울였다는 것에 매우 놀랐다. 설계하는 사람 중 아무도 루팅된 기기로 무력화될 수 있다는 점을 언급하지 않았나?
- LiamPowell
나는 항상 C2PA가 '이 사진은 (예를 들어) BBC에서 왔고, 그들이 제공된 편집 체인을 검증했기 때문에 서명한 것이다'라고 말하는 방법이라고 생각했다. 카메라를 화면에 비출 수 있다는 것은 항상 명백했고, C2PA에 관여한 사람이라면 그 누구도 그 반대를 주장하지 않았다고 생각한다.
C2PA가 말하는 목적과 일부 언론인들이 생각하는 목적 사이에는 큰 괴리가 있는 것 같다.
- randomblock1
하드웨어 수준에서도, 카메라 데이터가 통과하는 별도의 칩이라면 그것도 충분히 좋지 않다. 사람들은 TPM을 이미 깨뜨린 적이 있다. 카메라 센서에 내장되어야 할 것이다. 그조차도 다음 단계에서 멋진 광학 장치와 디스플레이 같은 것으로 공격할 수 있다.
이런 종류의 문제를 완전히 해결하는 것은 아예 불가능하다고 생각한다.