SynthID Detector identifica medios generados por IA con marcas de agua invisibles
Google DeepMind lanza SynthID Detector, una herramienta que verifica si una imagen, video o audio fue generado por IA mediante la detección de marcas de agua imperceptibles incrustadas en el contenido. A diferencia de los detectores generales, solo funciona con medios de empresas que adoptaron SynthID, como Google, Nvidia, OpenAI y Kakao. Los archivos se procesan en tiempo real y se eliminan tras el análisis.
SynthID embeds digital watermarks directly into AI-generated images, audio or video. The watermarks are added across generative AI consumer products from the above companies.
- Tiberium
Es desconcertante que esto requiera autenticación. La propia herramienta de OpenAI (https://openai.com/research/verify/) no requiere autenticación.
Incluso Google mismo ofrecía antes una forma sin autenticación (aunque muy nicho): si subías una imagen a la búsqueda de imágenes de Google y ibas a "Acerca de esta imagen", mostraba si la imagen había sido generada por IA de Google. Ahora ya no.
- Retr0id
Es una verdadera lástima que Google no sea más transparente sobre cómo funciona realmente, y que no proporcione ningún mecanismo para clasificar imágenes en masa o sin conexión.
Este es el mejor artículo sobre SynthID que he encontrado hasta ahora: https://fyx.me/articles/attempting-model-extraction-of-googl...
Cubre cómo funciona realmente (probablemente), y cómo entrenar tu propio clasificador para ello, con algunos resultados aparentemente decentes.
- jdranczewski
¡Por fin, las implementaciones anteriores eran muy tontas! OpenAI tenía una buena herramienta, pero solo detectaba sus propias marcas de agua, y el proceso de Google era "sube la imagen a Gemini y pregunta si es generada por IA", lo que parecía un desperdicio desconcertante de tokens y aliento.
(Aunque un comentario hermano señala subir la imagen a la búsqueda de imágenes de Google como alternativa, no recuerdo que esto se indicara en el artículo de soporte que leí, así que lamentablemente no lo sabía)
- HelloUsername
https://blog.google/innovation-and-ai/models-and-research/go...
- nialv7
¿Por qué demonios necesito iniciar sesión?