Microsoft Paint und Fotos betten unsichtbare GUID-Wasserzeichen in lokal generierte Bilder ein
MS Paint and Photos inivisibly watermark even locally generated output with GUID
Reverse Engineering zeigt: Microsoft Paint und Fotos senden den Prompt zur Moderation an einen Remote-Server, der eine GUID zurückgibt. Diese GUID wird als unsichtbares Wasserzeichen in die lokal generierten Bilder eingebettet. Die sichtbare Wasserzeichen-Einstellung steuert dies nicht. Zusätzlich fügt Microsoft C2PA-Metadaten hinzu, die die GUID enthalten. Die Analyse deckt auf, dass die lokale Bildgenerierung auf Copilot+-PCs dennoch von Remote-Diensten abhängig ist.
„Lokal generiert‘ bedeutet nicht, dass der gesamte Vorgang lokal abläuft: Microsoft erhält und moderiert den Prompt und stellt dann die eindeutige GUID aus, die Paint in das lokal generierte Bild einbettet.“
- ozereray1
Das Einbetten versteckter GUIDs in lokale Dateien ohne ausdrückliche Zustimmung des Benutzers ist ein massiver Eingriff in die Privatsphäre. Man fragt sich, welche anderen lokalen Tools stillschweigend benutzergenerierte Inhalte taggen.
- mg794613
Meine Güte, das hat nichts mit KI-Problemen zu tun. Ich verstehe nicht, dass Leute immer noch ein Betriebssystem von einer Firma kaufen, die ihre Kunden aktiv hasst. Die Menge an Dingen, die sie abziehen, sollte nicht einmal bei einem Betriebssystem erfolgreich sein, für dessen Nutzung man bezahlt wird.
- palisade
Autsch, selbst Anthropic und Google haben die Maschinenkennung nicht eingebaut. (Noch nicht.) Huch.
- weberer
Der KI-Aspekt hier ist ein Ablenkungsmanöver. Das eigentliche Problem ist, dass sie heimlich eine eindeutige Kennung in jedes Bild einfügen, das du erstellst. Wenn jemand dein Meme nicht mag, kann er einfach eine Urheberrechts-Vorladung an Microsoft schicken und sofort deinen vollständigen Namen, deine Adresse, E-Mail, Telefonnummer und alle anderen Daten erhalten, die mit deinem Microsoft-Konto verknüpft sind. Genau wie die Altersverifikation ist dies eine weitere Waffe im Krieg gegen die Anonymität im Internet.
- ComputerGuru
KI-generierte Textwarnung (ich habe den Artikel eingereicht, aber nicht verfasst), aber es scheint, dass MS Paint und MS Photos sowohl ein sichtbares (abschaltbares) als auch ein unsichtbares (nicht deaktivierbares und im Hintergrund ohne Benutzerhinweis erfolgendes) Wasserzeichen zu Fotos hinzufügen, die mit KI bearbeitet wurden, selbst wenn ein lokales Modell für die Aktion verwendet wird. Es ist unklar, ob dies auch für Dinge wie KI-verbessertes Hintergrundentfernen/Löschen gilt, aber das unsichtbare Wasserzeichen ist sowohl in den Bildpixeln als auch in den Bildmetadaten eingebettet, beide enthalten eine GUID, die mit dem genauen Prompt und dem Ursprungsgerät/-benutzer verknüpft werden kann (auf Microsofts Seite). Der naheliegende nächste Schritt ist zu untersuchen, ob man watermarker.dll durch einen (signierten) No-op-Shim ersetzen oder den API-Aufruf per MITM abfangen kann, um zumindest eine eigene (nil?) GUID zu verwenden, die nicht mit Gerät/Konto verknüpft ist. Falls es nicht offensichtlich ist: Meine größere Sorge ist nicht so sehr, dass dieses Bild als mit KI erzeugt/bearbeitet identifiziert werden kann, sondern dass uns digitale gelbe Druckerpunkte aufgezwungen wurden, außer dass sie den genauen Benutzer/das Gerät/die Zeit/den Ort/das Dokument usw. identifizieren und abrufen können – was jede Illusion von Privatsphäre, die noch übrig ist, völlig zerstört.
- VCFundedGenYer
Behaltet das im Auge. Vor ein paar Monaten hat Microsoft fälschlicherweise versucht, ein Copilot-"Wasserzeichen" (nur eine automatisch hinzugefügte Notiz) auf alle Azure-DevOps-Commits zu stempeln, unabhängig davon, ob ein LLM tatsächlich beteiligt war. Sie haben es entfernt, nachdem viele GitHub-Issues an die Quelle des Problems eingereicht wurden, die eine VS-Code-Copilot-Erweiterung war. Microsoft ist bei ihren Implementierungen sehr schlampig. Ich würde empfehlen, Paint oder andere LLM-fähige Apps, die sie verwenden, nicht zu nutzen. Dinge könnten fälschlicherweise gestempelt werden.
- clickety_clack
Ich gebe zu, es ist eine Weile her, seit ich Windows benutzt habe, aber es ist ein solcher Schock zu hören, dass MS Paint nicht mehr nur eine Point-and-Click-Pixel-Mal-App ist. Es scheint, als hätten sie es als reine "Paint"-App belassen und das ausgefallene Zeug in einen neuen Bildeditor oder so packen können. Ich schätze, sie haben ihre Belegschaft darauf optimiert, ständig Änderungen vorzunehmen, damit sie befördert werden, anstatt wirklich gute Software zu entwickeln.
- JoeBOFH
Mir ist das neulich fälschlicherweise passiert und ich habe Paint.net installiert. Ich habe einen Screenshot eingefügt, den ich gemacht hatte, und wollte ihn nur in der Größe ändern. Ich bekam ein Banner, das sagte, es sei mit KI erstellt worden und würde aktualisiert, um das widerzuspiegeln.
- dagaci
Wenn man googelt, findet man den Quellcode für das Wasserzeichen hier: https://github.com/microsoft/InvisMark
- Delphiza
Ich verstehe die Datenschutzbedenken, und wir haben zu Recht die Erwartung, dass Microsoft sagt, dass dies das ist, was ihr Tool tun könnte. Ich fürchte jedoch, dass wir eines Tages zurückblicken und uns fragen werden, warum wir nicht mehr getan haben, um menschliche Authentizität zu signieren und zu bewahren. Ein Stempel, der sagt "KI-bearbeitet", sollte Teil der digitalen Herkunftswerkzeuge sein.