Paint y Fotos incrustan marcas de agua invisibles con GUID emitido por el servidor en imágenes generadas localmente

Dios mío, esto no tiene nada que ver con los problemas de la IA. No entiendo que la gente todavía compre un sistema operativo de una empresa que odia activamente a sus clientes. La cantidad de cosas que hacen no debería tener éxito ni siquiera en un sistema operativo por el que te pagan por usar.

Uf, ni siquiera Anthropic y Google hicieron el identificador de máquina. (Todavía). Vaya.

El aspecto de la IA de esto es una cortina de humo. El problema real es que están añadiendo en secreto un identificador único a cada imagen que creas. Si a alguien no le gusta tu meme, puede enviar una citación de derechos de autor a Microsoft para obtener al instante tu nombre completo, dirección, correo electrónico, número de teléfono y cualquier otro dato asociado con tu cuenta de Microsoft. Al igual que la verificación de edad, esta es otra arma en la guerra contra el anonimato en Internet.

Advertencia de texto generado por IA (envié, pero no autoricé, la pieza), pero parece que MS Paint y MS Photos añaden tanto una marca de agua visible (se puede desactivar) como una invisible (no se puede deshabilitar y ocurre silenciosamente en segundo plano sin aviso al usuario) a las fotos que han sido manipuladas con IA, incluso cuando se usa un modelo local para realizar la acción. No está claro si esto se aplica incluso a cosas como usar el borrado/eliminación de fondo mejorado con IA, pero la marca de agua invisible se incrusta tanto en los píxeles de la imagen como en los metadatos de la imagen, ambos contienen un GUID que se puede vincular al prompt exacto que se usó y al dispositivo/usuario de origen (en el extremo de Microsoft). El siguiente paso obvio es explorar si se puede reemplazar watermarker.dll con un shim no-op (firmado) o hacer MITM a la llamada API para al menos usar tu propio GUID (¿nulo?) que no esté vinculado a tu dispositivo/cuenta. Por si no es obvio, mi mayor preocupación no es "esta imagen se puede identificar como generada/con IA" sino más bien "nos han impuesto los puntos amarillos digitales de la impresora, excepto que pueden identificar y recuperar el usuario/dispositivo/hora/lugar/documento exacto", destruyendo por completo cualquier ilusión de privacidad que quede.

Vigila esto. Hace unos meses, Microsoft intentó incorrectamente poner una "marca de agua" de Copilot (solo una nota añadida automáticamente) a cualquier commit de Azure DevOps, independientemente de si realmente estaba involucrado un LLM. Lo eliminaron después de que se enviaran muchos issues de GitHub a la fuente del problema, que era una extensión de VS Code Copilot. Microsoft ha sido muy descuidado en sus implementaciones. Recomendaría no usar Paint ni ninguna otra aplicación habilitada con LLM que usen como resultado. Las cosas pueden estar siendo marcadas incorrectamente.

Admito que hace tiempo que no uso Windows, pero es un shock escuchar que MS Paint ya no es solo una aplicación de colorear píxeles de clic y punto. Parece que podrían haberlo dejado como una aplicación puramente de "pintura" y haber añadido las cosas elegantes a algún nuevo editor de imágenes o algo así. Supongo que han optimizado su fuerza laboral para seguir haciendo cambios para que los asciendan en lugar de crear software realmente bueno.

Me pasó esto el otro día incorrectamente y fui a instalar Paint.net. Pegué una captura de pantalla que tomé y solo quería redimensionarla. Me salió un banner diciendo que estaba hecha con IA y que se actualizaría para reflejarlo.

Buscando en Google puedes ver el código fuente para la marca de agua aquí https://github.com/microsoft/InvisMark

Entiendo las preocupaciones de privacidad, y tenemos derecho a esperar que Microsoft diga que esto es lo que su herramienta puede estar haciendo. Sin embargo, temo que algún día miremos atrás y nos preguntemos por qué no hicimos más para firmar y preservar la autenticidad humana. Tener un sello que diga "manipulado con IA" debería ser parte de las herramientas de linaje digital.