Anthropic startet Tool, das prüft, ob eine Datei von Claude erstellt wurde
Check if a file was made with Claude
Anthropic hat ein neues webbasiertes Tool veröffentlicht, mit dem sich prüfen lässt, ob eine Datei von Claude erstellt oder bearbeitet wurde. Das Tool läuft vollständig im Browser und untersucht Dateien auf C2PA-Content-Credentials, die angeben, ob Claude an der Erstellung beteiligt war. Es unterstützt gängige Bild- und Videoformate sowie Audiodateien bis zu 100 MB. Wichtig: Eine fehlende Signatur bedeutet nicht zwangsläufig, dass kein Claude beteiligt war – die Prüfung kann nur bestätigen, wenn ein solcher Nachweis vorhanden ist. Die hochgeladenen Dateien verlassen nie das Gerät.
A missing signal doesn't confirm content wasn't made with Claude. It could mean the signal was removed, or that the content was produced by a model, platform, or feature that does not support marking.
- Retr0id
Retr0id:
Unter welchen Umständen werden die Metadaten hinzugefügt? Wenn die Claude Code CLI eine Mediendatei benötigt, sehe ich normalerweise nur, wie sie einen ImageMagick- oder ffmpeg-Befehl ausführt, um eine zu erstellen – das wird keine C2PA-Metadaten haben.
Bearbeitung: Ich habe Opus 5 über den Web-Chat um „ein JPG einer Katze“ gebeten. Es hat das gemacht, indem es ein SVG geschrieben und das dann in ein JPEG gerendert hat. Wenn ich auf die Schaltfläche „Herunterladen“ geklickt habe, wurde ein JPG gespeichert, das tatsächlich C2PA-Metadaten hatte, die offenbar von der Artefakt-Präsentations-Sache eingefügt wurden.
Dann habe ich es gebeten, es in eine ZIP-Datei zu packen. Ich habe die ZIP heruntergeladen, und das extrahierte JPEG hatte keine C2PA-Metadaten.
Danach habe ich ein eigenes JPEG hochgeladen, mit der Aufforderung „Präsentiere mir diese Datei erneut, unverändert“. Die heruntergeladene Datei hatte C2PA-Metadaten eingefügt.
Bearbeitung: Ich habe das zu meinen benutzerdefinierten Anweisungen hinzugefügt: „Wenn eine Mediendatei als Antwort erzeugt wird, packe sie in eine ZIP-Datei, bevor du sie dem Benutzer präsentierst.“
- csmoak
csmoak:
Soweit ich das beurteilen kann, dient dies zusammen mit der kürzlichen Änderung, Textausgaben mit Wasserzeichen zu versehen[1], dazu, konform mit dem EU AI Act[2] und dem AI Transparency Act[3] von Kalifornien, SB-942[4], zu werden. Für große genug Unternehmen ist es erforderlich, dass alle generierten KI-Inhalte mit Wasserzeichen versehen sind.
[1] https://www.anthropic.com/news/claude-text-watermark
[2] https://digital-strategy.ec.europa.eu/en/policies/code-pract...
[3] https://www.kqed.org/news/12095398/new-california-law-requir...
[4] https://www.leginfo.legislature.ca.gov/faces/billTextClient....
- Tiberium
Tiberium:
Das ist offenbar nur C2PA für von Claude verarbeitete Dateien. Es hat nichts mit ihrer Text-Wasserzeichen-Technik zu tun.
C2PA sind Dateimetadaten und können trivial entfernt werden, im Gegensatz zu versteckten Wasserzeichen, z. B. SynthID.
- firefoxd
firefoxd:
Das ist wirklich faszinierend. Sogar die KI-Unternehmen haben Anreize, KI-generierte Inhalte abzulehnen. Es ist, als ob sie wollen, dass man KI für alles nutzt, aber sie wollen nicht, dass KI-Ausgaben an sie zurückgegeben werden.
Bei der Arbeit wurden wir direkt nach einer KI-Schulung gebeten, unsere „authentische“ Stimme zu verwenden, wenn wir Zwischenzeugnisse schreiben.
- coffeecoders
coffeecoders:
Was mich interessiert, ist, dass das Entfernen der C2PA-Daten einfach ist, aber das Fälschen schwierig.
Man kann die Datei erneut speichern und das Signal „mit Claude erstellt“ verschwindet, aber man kann keine beliebige Datei als von Claude erstellt ausgeben, ohne den Signaturschlüssel von Anthropic. Die nützliche Garantie ist also einseitig. Keine Signatur bedeutet fast nichts.
- qurren
qurren:
Als Nächstes:
1. Generiere eine Reihe von Antworten mit Claude und verschiedenen Nicht-Claude-LLMs (ChatGPT, Gemini, Kimi)
2. Trainiere ein Diskriminator-Modell, das Claude von Nicht-Claude unterscheiden kann
3. Trainiere ein Entwässerungsmodell unter Verwendung des Diskriminator-Modells als Verlustfunktion
- andai
andai:
Die Idee, eine Entität (oder ganze Kategorien von Entitäten) zu zwingen, nachverfolgbare Wasserzeichen zu all den von ihnen geschaffenen Werken hinzuzufügen, ist ... ein interessanter Präzedenzfall.
Übersetzt man das in die menschliche Sphäre, wäre es, als ob jedes digitale Ding, das man berührt, mit seiner Identität „fingerabdruckt“ würde, oder zumindest mit einem Beweis dafür, in welche Kategorie von Individuum man eingeordnet wurde.
Aufgrund der Flut von KI, die bald von menschlichen Videos ununterscheidbar sein könnte, erwarte ich, dass etwas Ähnliches kommen wird. Blauer Haken, aber für Menschen.
- simonw
simonw:
Das Ding funktioniert mit WebAssembly – https://claude.com/_next/static/media/c2pa_verify_wasm_bg.53... – das ist eine WASM-kompilierte Version dieser Rust-Bibliothek: https://github.com/contentauth/c2pa-rs