C2PA-камеры не переживают встречу с реальностью
C2PA Cameras Do Not Survive Contact with Reality
Дэвид Бьюкенен (retr0id) показывает, что C2PA, технология криптографической подписи фотографий, на Android полностью сломана. Он использует уязвимости уровня root (включая аппаратные атаки) на Pixel и других устройствах, чтобы подделывать изображения и видео, которые C2PA считает подлинными. Даже Google признал проблему неисправимой, но заплатил исследователю вознаграждение.
Атаки на оборудование не могут быть исправлены, и это означает, что C2PA на Android сломан так, что это невозможно исправить реалистичными методами.
- mistercow
Не считая того, что это, очевидно, никогда не было жизнеспособным, и вся проблема явно неразрешима, если сесть и как следует покопаться в ней минут пятнадцать, больше всего меня раздражает то, что ложное обещание сохранить фотографии как надежное доказательство активно вредит. Вы не построите идеальную систему или даже что-то близкое к идеалу. Максимум, чего вы добьетесь, — это затруднить случайную выдачу ИИ-фото за настоящие, оставив только те случаи, где это действительно важно. В «лучшем» случае вы просто сделаете публику более доверчивой к фотографиям в целом, так что, когда на кону будут реальные деньги или власть, ради которых стоит пройти через все эти препятствия, чтобы подделать подлинность, публика окажется более восприимчивой. Лучший исход на данный момент — чтобы все пришли к единому мнению, что фотографии теперь имеют примерно такую же доказательную ценность, как рисунки. Плохо продуманные попытки змеиного масла доказать подлинность только отдалят этот момент.
- yaro330
Все эти забавные шпильки в адрес безопасности Android, между тем как Pixel — буквально одни из самых защищенных устройств в индустрии, и Google вкладывает кучу денег в безопасность. Аппаратная аттестация, насколько мне известно, остается невзломанной, подделать можно только программную, да и то это постоянная игра в кошки-мышки, которую Google продолжает, пока не закончится поколение Pixel 3. C2PA не застрахована от аналоговой дыры, конечно, но подход с темной комнатой и фотографией фотографии разваливается, как только вы встраиваете в изображение данные о глубине, что уже делается.
- trentor
Это соблюдение требований для рекламы. Ваш клиент не хочет ИИ в своем проекте — вы показываете ему цепочку аудита, а если она окажется поддельной, указываете на поставщика, который ее подделал. Наше агентство застраховалось не только из-за клиентов, которые не хотят использовать ИИ в своих работах, но и из-за Закона ЕС об ИИ. Они используют C2PA, чтобы получить деньги обратно от недобросовестного поставщика, если тот не соответствует Закону об ИИ.
- uqers
Я очень удивлен, что Google приложил столько усилий для реализации подхода, который по сути эквивалентен проверке паролей на стороне клиента. Неужели никто из проектировщиков не упомянул, что его можно обойти на любом устройстве с root-доступом?
- LiamPowell
У меня всегда складывалось впечатление, что C2PA — это способ сказать: «это фото пришло, например, от BBC, и они подписали его только потому, что проверили предоставленную цепочку правок». Всегда было очевидно, что можно навести камеру на экран, и я не думаю, что кто-то из причастных к C2PA утверждал обратное. Похоже, есть большой разрыв между тем, для чего C2PA заявляет свое назначение, и тем, для чего, по мнению некоторых журналистов, она предназначена.
- vanyle
Это немного похоже на «дверные замки не переживают встречу с реальностью». Смысл не в том, чтобы помешать спонсируемым государством акторам создавать фейковые медиа, а в том, чтобы добавить трения и не дать сомнительным рекламным агентствам и фотографам заявлять, что их снимки подлинные.
- randomblock1
Даже на аппаратном уровне, если бы это был отдельный чип, через который проходили данные с камеры, или что-то в этом роде, это тоже не достаточно хорошо — люди уже взламывали TPM. Это должно быть встроено в сенсор камеры. Но даже тогда можно атаковать на следующем уровне — с помощью какой-нибудь хитрой оптики и дисплея или чего-то подобного. Я не думаю, что полностью решить такого рода проблему вообще возможно.
- spaqin
Я нахожу несколько ироничным, что это внедрено в первую очередь в Pixel, учитывая, сколько ИИ-обработки делают камеры смартфонов, чтобы получить приятное изображение.