C2PA-Kameras scheitern an der Realität: Android-Sicherheit ist gebrochen
C2PA Cameras Do Not Survive Contact with Reality
David Buchanan zeigt, dass C2PA auf Android grundlegend unsicher ist. Trotz Hardware-Schlüsseln in StrongBox können Angreifer mit Root-Rechten beliebige Dateien signieren, da Key Attestation und Play Integrity durch Software-Exploits oder kostengünstige Hardware-Fehlerinjektion umgangen werden können. Er demonstriert dies mit einem KI-generierten Bild, das als echtes Pixel-Foto verifiziert wird, und veröffentlicht Tools wie keystork. Google hat den Bericht als 'Won't fix' eingestuft, aber ein Bug-Bounty gezahlt.
C2PA auf der Android-Plattform ist in einer Weise gebrochen, die nicht realistisch gepatcht werden kann.
- mistercow
Abgesehen davon, dass das offensichtlich nie praktikabel war und das gesamte Problem eindeutig unlösbar ist, wenn man sich hinsetzt und es fünfzehn Minuten lang wirklich durchdenkt, finde ich am frustrierendsten daran, dass das falsche Versprechen, Fotos als verlässliche Beweise zu erhalten, aktiv schädlich ist.
Man wird kein perfektes System bauen, oder auch nur annähernd perfekt. Das Beste, was man erreichen kann, ist, dass es schwierig wird, KI-Fotos beiläufig als echt zu präsentieren, sodass nur noch die Fälle übrig bleiben, in denen es wirklich darauf ankommt. Im "besten" Fall hat man die Öffentlichkeit nur insgesamt vertrauensseliger gegenüber Fotos gemacht, sodass sie anfälliger ist, wenn tatsächlich Geld oder Macht auf dem Spiel steht und es sich lohnt, die Hürden zur Fälschung von Authentizität zu überwinden.
Das beste Ergebnis an diesem Punkt wäre, wenn sich alle einig wären, dass Fotos ungefähr denselben Beweiswert haben wie Zeichnungen. Schlecht durchdachte Schlangenöl-Bemühungen, Authentizität zu beweisen, verzögern das nur.
- yaro330
All diese lustigen Seitenhiebe auf Androids Sicherheit, dabei sind Pixels buchstäblich eines der sichersten Geräte der Branche und Google investiert massiv in Sicherheit.
Hardware-Attestierung ist meines Wissens ungebrochen, nur Software-Attestierung kann gefälscht werden, und selbst dann ist es ein ständiges Katz-und-Maus-Spiel, das Google weiterspielt, bis sie mit der Pixel-3-Generation fertig sind.
C2PA ist sicherlich nicht immun gegen die analoge Lücke, aber der Ansatz mit dunklem Raum + Foto von einem Foto scheitert, sobald man Tiefendaten in das Bild einbettet, was bereits geschieht.
- vanyle
Das klingt ein bisschen nach "Türschlösser überleben den Kontakt mit der Realität nicht."
Es geht nicht darum, staatlich geförderte Akteure daran zu hindern, gefälschte Medien zu produzieren, sondern darum, Reibung zu erzeugen und zu verhindern, dass zwielichtige Werbeagenturen und Fotografen behaupten, ihre Bilder seien echt.
- spaqin
Ich finde es schon etwas ironisch, dass es zuerst in Pixels implementiert wird, angesichts der Menge an KI-Verarbeitung, die Handykameras betreiben, um ein ansprechendes Bild zu erzeugen.
- trentor
Es ist Compliance für Werbung. Ihr Kunde will kein KI im Projekt, Sie zeigen ihm den Prüfpfad, und wenn sich herausstellt, dass er gefälscht ist, zeigen Sie auf den Lieferanten, der gefälscht hat. Unsere Agentur hat eine Versicherung abgeschlossen, nicht nur wegen Kunden, die keine KI in ihren Kunstwerken wollen, sondern auch wegen des EU AI Act. Sie nutzen C2PA, um ihr Geld von einem betrügerischen Lieferanten zurückzubekommen, wenn dieser nicht dem AI Act entspricht.
- uqers
Ich bin sehr überrascht, dass Google so viel Mühe in einen Ansatz gesteckt hat, der im Grunde das Äquivalent zur clientseitigen Passwortprüfung ist. Hat niemand beim Design erwähnt, dass er von jedem gerooteten Gerät überwunden werden kann?
- LiamPowell
Ich hatte immer den Eindruck, dass C2PA eine Möglichkeit ist, zu sagen: "Dieses Foto stammt von der BBC (zum Beispiel) und sie haben es nur signiert, weil sie die gelieferte Bearbeitungskette verifiziert haben." Es war immer offensichtlich, dass man eine Kamera auf einen Bildschirm richten kann, ich glaube nicht, dass irgendjemand, der mit C2PA zu tun hat, etwas anderes behauptet hat.
Es scheint eine große Diskrepanz zu geben zwischen dem, wofür C2PA gedacht ist, und dem, wofür bestimmte Journalisten es halten.
- randomblock1
Selbst auf Hardware-Ebene, wenn es ein separater Chip wäre, durch den die Kameradaten laufen oder so, wäre das auch nicht wirklich gut genug – Leute haben schon TPMs geknackt. Es müsste in den Kamerasensor eingebaut sein. Selbst dann könnte man es von der nächsten Ebene aus angreifen, mit ausgefallener Optik und einem Display oder so etwas.
Ich glaube nicht, dass es überhaupt möglich ist, diese Art von Problem vollständig zu lösen.