Google, AI 생성 이미지·오디오·비디오 판별하는 SynthID Detector 공개

▲ 66ilreb60 HN 토론

Google이 AI 생성 미디어를 식별하는 SynthID Detector를 선보였다. 이미지, 비디오, 오디오 파일을 업로드하면 SynthID 워터마크 여부를 검사해 AI 생성 가능성을 알려준다. 이 워터마크는 Google DeepMind가 개발해 Nvidia, OpenAI, Kakao 등이 채택했으며, 사람 눈에 띄지 않게 콘텐츠 자체에 삽입돼 일반적인 변형에도 강하다. 다만 SynthID를 도입한 기업의 미디어만 탐지할 수 있고, 결과가 절대적이지 않아 추가 증거 수집이 권장된다.

SynthID는 AI 생성 콘텐츠에 사람이 인지할 수 없는 디지털 워터마크를 직접 삽입하는 Google DeepMind의 방식이다. 이미지와 비디오의 픽셀, 오디오의 주파수 성분에 워터마크가 새겨지기 때문에 콘텐츠가 어디로 가든 함께 따라간다.
원문 읽기 →HN 토론RSS

HN 토론

60
  1. Tiberium

    이게 인증이 필요하다니 어이가 없다. OpenAI의 자체 도구(https://openai.com/research/verify/)는 인증이 필요 없다.

    Google 자신도 예전에는 인증 없는 방법을 제공했었다(아주 틈새적이긴 했지만): 이미지를 Google Image 검색에 업로드하고 'About this image'로 가면 그 이미지가 Google AI로 생성된 것인지 표시해줬다. 이제는 안 된다.

  2. Retr0id

    Google이 실제로 어떻게 작동하는지 더 투명하게 공개하지 않고, 이미지를 대량으로 또는 오프라인으로 분류할 수 있는 메커니즘도 제공하지 않는 건 정말 안타까운 일이다.

    지금까지 내가 찾은 SynthID에 관한 가장 좋은 글은 이거다: https://fyx.me/articles/attempting-model-extraction-of-googl...

    이 글은 (아마도) 실제로 어떻게 작동하는지, 그리고 이를 위한 자체 분류기를 어떻게 훈련시키는지 다루고 있으며, 어느 정도 괜찮아 보이는 결과도 보여준다.

  3. jdranczewski

    드디어! 이전 구현들은 정말 형편없었다! OpenAI는 좋은 도구를 갖고 있었지만 자사 워터마크만 탐지했고, Google의 방식은 '이미지를 Gemini에 업로드하고 AI 생성인지 물어보라'는 것이었는데, 토큰과 말을 낭비하는 어처구니없는 짓처럼 보였다.

    (형제 댓글에서 대안으로 이미지를 Google Image Search에 넣어보라고 지적하긴 했지만, 내가 읽은 지원 문서에는 그런 안내가 있었던 기억이 없어서 아쉽게도 그걸 몰랐다)

  4. HelloUsername

    https://blog.google/innovation-and-ai/models-and-research/go...

  5. nialv7

    도대체 왜 로그인을 해야 하는 거야?

이 날의 다른 글

2026-10-07