Microsoft Paint и Фото незаметно встраивают GUID в локально сгенерированные изображения
MS Paint and Photos inivisibly watermark even locally generated output with GUID
Реверс-инжиниринг показывает, что Paint и Фото отправляют запрос на удаленную модерацию, получают GUID и встраивают его в пиксели локально сгенерированных изображений. На ПК Copilot+ генерация происходит локально, но модерация запроса остается удаленной. Водяной знак не контролируется настройкой видимого водяного знака и добавляется в дополнение к C2PA-метаданным.
Другими словами, «сгенерировано локально» не означает, что вся операция локальна: Microsoft получает и модерирует запрос, затем выдает уникальный GUID, который Paint встраивает в локально сгенерированное изображение.
- mg794613
Боже мой, это вообще не связано с проблемами ИИ.
Я не понимаю, как люди до сих пор покупают ОС у компании, которая активно ненавидит своих клиентов.
Количество вещей, которые они вытворяют, не должно даже работать на ОС, за использование которой тебе ещё и платят.
- weberer
Аспект ИИ здесь — отвлекающий маневр. Настоящая проблема в том, что они тайно добавляют уникальный идентификатор в каждое создаваемое вами изображение. Если кому-то не понравится ваш мем, они могут просто отправить судебный запрос в Microsoft и мгновенно получить ваше полное имя, адрес, email, номер телефона и любые другие данные, связанные с вашей учетной записью Microsoft. Как и проверка возраста, это еще одно оружие в войне против анонимности в интернете.
- ComputerGuru
Предупреждение о тексте, сгенерированном ИИ (я отправил, но не писал эту статью), но похоже, что MS Paint и MS Photos добавляют как видимый (можно отключить), так и невидимый (нельзя отключить, и это происходит незаметно в фоновом режиме без уведомления пользователя) водяной знак на фотографии, которые были обработаны ИИ, даже при использовании локальной модели для выполнения действия. Неясно, относится ли это даже к таким вещам, как удаление фона с помощью ИИ, но невидимый водяной знак встраивается как в пиксели изображения, так и в метаданные изображения, и оба содержат GUID, который может быть связан с точным использованным промптом и исходным устройством/пользователем (на стороне Microsoft).
Очевидный следующий шаг — проверить, можно ли заменить watermarker.dll на (подписанный) no-op шим или перехватить API-вызов, чтобы по крайней мере использовать свой собственный (нулевой?) GUID, не связанный с вашим устройством/аккаунтом.
На случай, если это не очевидно, моя большая проблема не в том, что "это изображение можно идентифицировать как созданное с помощью ИИ", а в том, что "нам навязали цифровые желтые точки принтера, только они могут идентифицировать и извлекать точного пользователя/устройство/время/место/документ и т.д.", полностью уничтожая все иллюзии конфиденциальности, которые у нас остались.
- VCFundedGenYer
Следите за этим.
Несколько месяцев назад Microsoft ошибочно попыталась добавить "водяной знак" Copilot (просто автоматически добавленную заметку) ко всем коммитам Azure DevOps, независимо от того, использовалась ли LLM на самом деле. Они убрали это после того, как было подано много issue на GitHub в источник проблемы, которым было расширение VS Code Copilot.
Microsoft очень небрежна в своих реализациях. Я бы рекомендовал не использовать Paint или любое другое приложение с LLM, которое они используют, в результате. Вещи могут быть ошибочно помечены.
- clickety_clack
Признаю, что я давно не пользовался Windows, но это такой шок — слышать, что MS Paint больше не просто приложение для раскрашивания пикселей по клику. Казалось бы, они могли оставить его как чисто "рисовалку" и добавить все навороты в какой-нибудь новый редактор изображений.
Думаю, они оптимизировали свою рабочую силу, чтобы просто продолжать вносить изменения, чтобы получать повышения, вместо того чтобы создавать действительно хорошее программное обеспечение.
- JoeBOFH
У меня это сработало на днях ошибочно, и я пошел и установил Paint.net. Я вставил скриншот, который сделал, и просто хотел изменить размер. Я получил баннер, в котором говорилось, что изображение создано с помощью ИИ и будет обновлено, чтобы отразить это.
- dagaci
Гугля, вы можете найти исходный код для нанесения водяных знаков здесь https://github.com/microsoft/InvisMark
- Delphiza
Я понимаю проблемы конфиденциальности, и мы вправе ожидать, что Microsoft скажет, что это делает их инструмент. Однако я боюсь, что однажды мы оглянемся назад и удивимся, почему мы не сделали больше для подписи и сохранения человеческой подлинности. Наличие штампа "обработано ИИ" должно быть частью инструментария цифровой родословной.
- burnoutdv
Ладно, на вещах, созданных ИИ, есть водяные знаки, интересно, но не хорошо, но об этом уже все говорили.
Мой вопрос... как это работает? Насколько это надежно? Я помню, как в молодости прятал данные в пикселях PNG с помощью простой стеганографии, и это был забавный маленький проект... но хрупкий. Как именно отпечаток переживает сжатие JPEG? Он повторяется по всему изображению или только в одной области? Если эта область случайно чисто черная, алгоритм JPEG сотрет ее всю, не так ли?
- aucisson_masque
> На ПК с Copilot+ генерация изображений происходит локально, но модерация промптов остается удаленной
Кого-нибудь это беспокоит? Это ваш компьютер, работающий локально, но Microsoft может сказать вам "нет".
Это как если бы вы хотели открыть папку, а она запрашивает разрешение у Microsoft.