Хани Фарид: теперь доказывать подлинность видео должен его создатель

I Don't Trust Visual Recordings Anymore. But One Day I Will Again

Хани Фарид: теперь доказывать подлинность видео должен его создатель

Хани Фарид, профессор Dartmouth College, тридцать лет разрабатывает методы выявления подделок в цифровых медиа. Разбирая видео с якобы американской ракетой Tomahawk, он понял, что сам перешёл от презумпции подлинности к презумпции подделки: отсутствие следов монтажа больше никого не убеждает. Выход он видит в сигналах происхождения — стандарте C2PA, водяных знаках вроде SynthID и криптоподписи кадров, которую Apple внедряет в новые iPhone. Задача таких меток — не ловить злоумышленников, а дать добросовестным авторам доказать подлинность записи.

В сегодняшнем мире генеративного AI, однако, я думаю, нам нужно сместить эту позицию к «презумпции подделки». То есть бремя теперь лежит на создателе, который должен доказать, что его контент реален.
  1. fedpost

    Эти схемы подписи сейчас очень далеки от реальности. Даже если их широко внедрят и если их не подорвут сразу же, на массовое распространение уйдёт десятилетие или больше. Большинство «безумных» кадров, которые вы видите в сети, снято на старый мобильник, который в ближайшее время никто не собирается менять.

  2. lowbloodsugar

    Неужели мы думаем, что ключи из зеркальной камеры или телефона нельзя извлечь достаточно мотивированному игроку? Или что сенсор такого устройства нельзя заменить на генератор подставных изображений?

  3. nayuki

    > Учётные данные, соответствующие стандарту C2PA, например, прикрепляют к фотографии или видео в момент съёмки криптографически подписанный манифест; эти метаданные фиксируют устройство, время и место записи

    Это утверждение звучит как аккуратное решение, но моё чутьё подсказывает, что проблему оно на самом деле не решает. Мне трудно точно сформулировать, почему я считаю это неправильным, но перечислю некоторые соображения:

    * Предполагается, что камера хранит асимметричный закрытый ключ. Камера находится в руках пользователя, и чипы можно извлечь и изучить, чтобы с огромным трудом извлечь ключ. В мире крайне мало людей, обладающих знаниями и оборудованием для этого, но достаточно одного человека, чтобы взломать систему для всех.

    * Производитель камеры может допустить утечку ключа по халатности. Посмотрите на другие примеры, когда компании допускали утечку закрытых ключей TLS/SSL или других криптографических секретов.

    * Эта схема, похоже, даёт огромную власть небольшому числу компаний, позволяя им определять подлинность изображений проприетарным способом. Такое «привратничество» не кажется хорошим направлением для общества.

    * Если кто-то полон решимости взломать систему, в конце концов кто-то это сделает. Посмотрите на историю DRM и на то, сколько бесчисленных схем было взломано. Посмотрите, как был взломан Intel SGX (он заявляет, что позволяет процессору выполнять секретные вычисления от имени кого-то другого, без возможности физического владельца оборудования проверить эти вычисления).

    * Некоторые схемы аутентификации изображений были взломаны, например, ElcomSoft взломал более старую ве […]

Ещё за этот день

2026-11-21