Google startet SynthID Detector: KI-Wasserzeichen in Bildern, Videos und Audio aufspüren
Google hat den SynthID Detector vorgestellt, ein Tool, das KI-generierte Medien anhand unsichtbarer Wasserzeichen erkennt. Die Technologie von Google DeepMind wird bereits von Nvidia, OpenAI und Kakao eingesetzt. Nutzer können Bilder, Videos und Audio hochladen, um zu prüfen, ob sie von einem SynthID-fähigen Modell stammen. Der Detektor ist kein allgemeiner KI-Scanner, sondern beschränkt sich auf Partnerunternehmen. Die Wasserzeichen überstehen gängige Bearbeitungen, sind aber nicht unfehlbar.
SynthID bettet digitale Wasserzeichen direkt in KI-generierte Bilder, Audio oder Video ein. Die Wasserzeichen sind für Menschen nicht wahrnehmbar, können aber von der Technologie von SynthID erkannt werden.
- Tiberium
Es ist unbegreiflich, dass das eine Anmeldung erfordert. OpenAIs eigenes Tool (https://openai.com/research/verify/) erfordert keine Anmeldung.
Sogar Google selbst bot früher einen Weg ohne Anmeldung an (nur sehr nischig): Wenn man ein Bild in die Google-Bildersuche hochlud und auf "Über dieses Bild" ging, wurde angezeigt, ob das Bild von Google-KI generiert wurde. Jetzt nicht mehr.
- Retr0id
Es ist wirklich schade, dass Google nicht transparenter darüber ist, wie es tatsächlich funktioniert, und keinen Mechanismus bietet, um Bilder in großen Mengen oder offline zu klassifizieren.
Das ist der beste SynthID-Artikel, den ich bisher gefunden habe: https://fyx.me/articles/attempting-model-extraction-of-googl...
Er behandelt, wie es tatsächlich funktioniert (wahrscheinlich), und wie man seinen eigenen Klassifikator dafür trainiert, mit einigen scheinbar ordentlichen Ergebnissen.
- jdranczewski
Endlich, die vorherigen Implementierungen waren sehr albern! OpenAI hatte ein nettes Tool, aber es erkannte nur ihre eigenen Wasserzeichen, und Googles Prozess war "lade das Bild in Gemini hoch und frage, ob es KI-generiert ist", was wie eine perplexe Verschwendung von Tokens und Atem wirkte.
(Während ein benachbarter Kommentar darauf hinweist, das Bild alternativ durch die Google-Bildersuche zu schicken, erinnere ich mich nicht, dass dies in dem Support-Artikel, den ich gelesen habe, angekündigt wurde, also wusste ich leider nichts davon)
- HelloUsername
https://blog.google/innovation-and-ai/models-and-research/go...
- nialv7
Warum zum Teufel muss ich mich anmelden?