Anthropic lanza una herramienta para verificar si un archivo fue creado con Claude
Check if a file was made with Claude
Anthropic presenta una herramienta web que permite comprobar si un archivo fue creado o editado con Claude. El servicio analiza la credencial de contenido C2PA incrustada en el archivo, sin subirlo a la nube: todo se procesa localmente en el navegador. La herramienta acepta imágenes y vídeos, pero no confirma la ausencia de intervención de IA si falta la señal, ya que puede haber sido eliminada o no estar soportada por el modelo o plataforma utilizados.
Saber de dónde proviene el contenido y si la IA estuvo involucrada facilita confiar en lo que ves en línea.
- Retr0id
Retr0id: ¿Bajo qué circunstancias se añaden los metadatos? Cuando la CLI de Claude Code necesita un archivo multimedia, normalmente solo veo que ejecuta un comando de imagemagick o ffmpeg para crearlo, lo cual no va a tener metadatos C2PA.
Edición: Le pedí a Opus 5 "un jpg de un gato" a través del chat web. Lo hizo escribiendo un svg y luego renderizándolo a un jpeg. Al hacer clic en el botón de "descargar" se guardó un jpg que sí tenía metadatos C2PA, aparentemente inyectados por la cosa de presentación de artefactos.
Luego le dije que lo pusiera en un archivo zip. Descargué el zip, y el jpeg extraído no tenía metadatos C2PA.
Después subí un jpeg mío, con el prompt "preséntame este archivo de nuevo, tal cual". El archivo descargado tenía metadatos C2PA inyectados.
Edición: Añadí esto a mis instrucciones personalizadas: "Si se produce un archivo multimedia como respuesta, ponlo en un archivo zip antes de presentarlo al usuario".
- csmoak
csmoak: Por lo que puedo ver, esto y el reciente cambio para añadir marcas de agua a las salidas de texto[1], es para cumplir con la Ley de IA de la UE[2] y la Ley de Transparencia en IA de California[3], SB-942[4]. Para empresas lo suficientemente grandes, todo el contenido generado por IA debe llevar marcas de agua.
[1] https://www.anthropic.com/news/claude-text-watermark
[2] https://digital-strategy.ec.europa.eu/en/policies/code-pract...
[3] https://www.kqed.org/news/12095398/new-california-law-requir...
[4] https://www.leginfo.legislature.ca.gov/faces/billTextClient....
- Tiberium
Tiberium: Esto es solo C2PA para archivos procesados por Claude, aparentemente. No está relacionado con su marca de agua de texto.
C2PA son metadatos de archivo y se pueden eliminar trivialmente, a diferencia de las marcas de agua ocultas, por ejemplo, SynthID.
- firefoxd
firefoxd: Esto es realmente fascinante. Incluso las empresas de IA tienen incentivos para rechazar contenido generado por IA. Es como si quisieran que uses IA para todo, pero no quieren que la salida de IA se les devuelva.
En el trabajo, justo después de una formación sobre IA, nos pidieron que usáramos nuestra voz "auténtica" al escribir las evaluaciones de mitad de año.
- coffeecoders
coffeecoders: Lo que me resulta interesante es que eliminar los datos C2PA es fácil, pero falsificarlos es difícil.
Puedes volver a guardar el archivo y la señal de "hecho con Claude" desaparece, pero no puedes hacer que un archivo aleatorio pase como hecho por Claude sin la clave de firma de Anthropic. Así que la garantía útil es unidireccional. Sin firma no significa casi nada.
- qurren
qurren: Lo siguiente:
1. Generar un montón de respuestas con Claude y varios LLMs que no son Claude (ChatGPT, Gemini, Kimi)
2. Entrenar un modelo discriminador que pueda diferenciar entre Claude y no-Claude
3. Entrenar un modelo de eliminación de marcas de agua usando el modelo discriminador como pérdida
- andai
andai: La idea de obligar a una entidad (o categorías enteras de entidades) a añadir marcas de agua rastreables a todo el trabajo que crean es... un precedente interesante.
Traduciendo eso al ámbito humano, sería como si cada cosa digital que tocaras estuviera "marcada con tu huella" con tu identidad, o al menos con una prueba de qué categoría de individuo te han asignado.
Debido a la avalancha de IA, que pronto podría volverse indistinguible del video humano, espero ver algo similar. Marca de verificación azul, pero para humanos.
- simonw
simonw: Esto funciona usando WebAssembly - https://claude.com/_next/static/media/c2pa_verify_wasm_bg.53... - que es una versión compilada en WASM de esta biblioteca de Rust: https://github.com/contentauth/c2pa-rs