Хани Фарид: теперь доказывать подлинность видео должен его создатель
I Don't Trust Visual Recordings Anymore. But One Day I Will Again

Хани Фарид, профессор Dartmouth College, тридцать лет разрабатывает методы выявления подделок в цифровых медиа. Разбирая видео с якобы американской ракетой Tomahawk, он понял, что сам перешёл от презумпции подлинности к презумпции подделки: отсутствие следов монтажа больше никого не убеждает. Выход он видит в сигналах происхождения — стандарте C2PA, водяных знаках вроде SynthID и криптоподписи кадров, которую Apple внедряет в новые iPhone. Задача таких меток — не ловить злоумышленников, а дать добросовестным авторам доказать подлинность записи.
В сегодняшнем мире генеративного AI, однако, я думаю, нам нужно сместить эту позицию к «презумпции подделки». То есть бремя теперь лежит на создателе, который должен доказать, что его контент реален.
- fedpost
Эти схемы подписи сейчас очень далеки от реальности. Даже если их широко внедрят и если их не подорвут сразу же, на массовое распространение уйдёт десятилетие или больше. Большинство «безумных» кадров, которые вы видите в сети, снято на старый мобильник, который в ближайшее время никто не собирается менять.
- lowbloodsugar
Неужели мы думаем, что ключи из зеркальной камеры или телефона нельзя извлечь достаточно мотивированному игроку? Или что сенсор такого устройства нельзя заменить на генератор подставных изображений?
- nayuki
> Учётные данные, соответствующие стандарту C2PA, например, прикрепляют к фотографии или видео в момент съёмки криптографически подписанный манифест; эти метаданные фиксируют устройство, время и место записи
Это утверждение звучит как аккуратное решение, но моё чутьё подсказывает, что проблему оно на самом деле не решает. Мне трудно точно сформулировать, почему я считаю это неправильным, но перечислю некоторые соображения:
* Предполагается, что камера хранит асимметричный закрытый ключ. Камера находится в руках пользователя, и чипы можно извлечь и изучить, чтобы с огромным трудом извлечь ключ. В мире крайне мало людей, обладающих знаниями и оборудованием для этого, но достаточно одного человека, чтобы взломать систему для всех.
* Производитель камеры может допустить утечку ключа по халатности. Посмотрите на другие примеры, когда компании допускали утечку закрытых ключей TLS/SSL или других криптографических секретов.
* Эта схема, похоже, даёт огромную власть небольшому числу компаний, позволяя им определять подлинность изображений проприетарным способом. Такое «привратничество» не кажется хорошим направлением для общества.
* Если кто-то полон решимости взломать систему, в конце концов кто-то это сделает. Посмотрите на историю DRM и на то, сколько бесчисленных схем было взломано. Посмотрите, как был взломан Intel SGX (он заявляет, что позволяет процессору выполнять секретные вычисления от имени кого-то другого, без возможности физического владельца оборудования проверить эти вычисления).
* Некоторые схемы аутентификации изображений были взломаны, например, ElcomSoft взломал более старую ве […]