Der Deepfake-Experte Hany Farid traut Videos nicht mehr – und will die Beweislast umkehren
I Don't Trust Visual Recordings Anymore. But One Day I Will Again

Hany Farid, Professor am Dartmouth College, hat jahrzehntelang Manipulationen in Bild und Ton aufgespürt. Nach einem Tomahawk-Video aus Iran, das er nur mühsam als echt einordnen konnte, plädiert er für eine neue Grundhaltung: nicht mehr „echt, bis das Gegenteil bewiesen ist“, sondern „gefälscht, bis die Herkunft belegt ist“. Statt Täter zu jagen, sollen Content Credentials nach dem C2PA-Standard, Wasserzeichen wie SynthID und kryptografisch signierte Kamerarohdaten ehrlichen Urhebern helfen, ihre Aufnahmen zu belegen.
In der heutigen Welt der generativen AI müssen wir diese Haltung meiner Meinung nach zu einer „Unschuldsvermutung der Fälschung“ verschieben. Das heißt: Die Beweislast liegt nun beim Urheber, der belegen muss, dass seine Inhalte echt sind.
- fedpost
Diese Signaturverfahren sind derzeit noch sehr weit entfernt. Selbst wenn sie breit übernommen werden und nicht sofort untergraben werden, wird es ein Jahrzehnt oder länger dauern, bis sie sich durchgesetzt haben. Die meisten "verrückten Scheiß"-Aufnahmen, die man online sieht, stammen von einem alten Handy, das so schnell nicht ersetzt wird.
- lowbloodsugar
Stellen wir uns etwa vor, dass die Schlüssel einer DSLR oder eines Handys nicht von einem ausreichend motivierten Akteur extrahiert werden können? Oder dass der Sensor eines solchen Geräts nicht durch einen Ersatzbildgenerator ersetzt werden könnte?
- nayuki
> Zertifikate, die dem C2PA-Standard folgen, hängen beispielsweise im Moment der Aufnahme ein kryptografisch signiertes Manifest an ein Foto oder Video; diese Metadaten erfassen das Gerät, die Zeit und den Ort der Aufnahme.
Diese Behauptung klingt nach einer sauberen Lösung, aber mein Bauchgefühl sagt mir, dass sie das Problem nicht wirklich löst. Es fällt mir schwer, genau zu formulieren, warum ich denke, dass sie falsch ist, aber ich liste ein paar Ideen auf:
* Die Kamera besitzt vermutlich einen asymmetrischen privaten Schlüssel. Die Kamera ist in den Händen des Benutzers, und Chips könnten entfernt und untersucht werden, um den Schlüssel mit enormem Aufwand zu extrahieren. Extrem wenige Menschen auf der Welt haben das Wissen und die Ausrüstung dafür, aber es braucht nur eine Person, um das System für alle zu brechen.
* Der Kamerahersteller könnte den Schlüssel durch Fahrlässigkeit preisgeben. Man schaue sich andere Beispiele an, bei denen Unternehmen private TLS/SSL-Schlüssel oder andere kryptografische Geheimnisse preisgegeben haben.
* Dieses Schema scheint einer kleinen Anzahl von Unternehmen viel Macht zu geben, Bildauthentizität auf proprietäre Weise zu definieren. Diese Gatekeeping-Rolle scheint keine gute Richtung für die Gesellschaft zu sein.
* Wenn jemand entschlossen ist, das System zu brechen, wird es irgendwann jemand tun. Man betrachte die Geschichte von DRM und wie unzählige Schemata gebrochen wurden. Man betrachte, wie Intel SGX gebrochen wurde (es behauptet, einer CPU zu erlauben, geheime Berechnungen im Auftrag einer anderen Person auszuführen, ohne dass der physische Hardwarebesitzer diese Berechnungen einsehen kann).
* Einige Bildauthentifizierungsschemata wurden geknackt, wie etwa ElcomSoft, das ein älteres ve […]