Hany Farid: ya no confío en los vídeos, y la culpa no es solo de los deepfakes
I Don't Trust Visual Recordings Anymore. But One Day I Will Again

El experto en forense digital Hany Farid cuenta cómo pasó de suponer que una grabación es auténtica a suponer que es falsa: analizó durante horas un vídeo de un supuesto misil Tomahawk y, aunque concluyó que era real, comprobó que la ausencia de indicios de manipulación ya no basta para creer. Su propuesta es exigir señales de procedencia, como las credenciales C2PA o los marcas de agua SynthID, que permitan a los creadores legítimos demostrar que su contenido es genuino.
En el mundo actual de la IA generativa, creo que debemos pasar de esta postura a una de «presunción de falsedad»: ahora la carga recae sobre el creador, que debe demostrar que su contenido es real.
- fedpost
Estos esquemas de firma están muy lejos de ser una realidad ahora mismo. Incluso si se adoptan ampliamente y no son subvertidos de inmediato, tomará una década o más para que la adopción sea generalizada. La mayoría de las imágenes de "locuras" que ves en línea provienen de un teléfono celular viejo que no será reemplazado pronto.
- lowbloodsugar
¿Imaginamos que las claves de una DSLR o de un teléfono no pueden ser extraídas por un actor suficientemente motivado? ¿O que el sensor de dicho dispositivo no podría ser reemplazado por un generador de imágenes sustituto?
- nayuki
> Las credenciales que siguen el estándar C2PA, por ejemplo, adjuntan un manifiesto firmado criptográficamente a una foto o video en el momento de la captura; estos metadatos registran el dispositivo, la hora y la ubicación de la grabación
Esta afirmación suena como una solución ordenada, pero mi intuición me dice que en realidad no resuelve el problema. Me cuesta articular exactamente por qué creo que está mal, pero enumeraré algunas ideas:
* Se supone que la cámara contiene una clave privada asimétrica. La cámara está en manos del usuario, y los chips podrían ser extraídos y examinados para extraer la clave con inmensa dificultad. Muy pocas personas en este mundo tienen el conocimiento y el equipo para hacer esto, pero solo se necesita una persona para romper el sistema para todos.
* El fabricante de la cámara podría filtrar la clave por negligencia. Mire otros ejemplos en los que las empresas filtraron claves privadas TLS/SSL u otros secretos criptográficos.
* Este esquema parece dar mucho poder a un pequeño número de empresas para definir la autenticidad de la imagen de manera propietaria. Este control de acceso no parece una buena dirección para la sociedad.
* Si alguien está decidido a romper el sistema, eventualmente alguien lo hace. Mire la historia de DRM y cómo innumerables esquemas han sido rotos. Mire cómo se rompió Intel SGX (afirma permitir que una CPU ejecute cálculos secretos en nombre de otra persona sin que el propietario del hardware físico pueda inspeccionar esos cálculos).
* Algunos esquemas de autenticación de imágenes fueron descifrados, como ElcomSoft rompiendo un antiguo ve […]