Google запускает SynthID Detector для распознавания ИИ-контента
Google представила SynthID Detector — инструмент для обнаружения невидимых цифровых водяных знаков SynthID в изображениях, видео и аудио, созданных моделями Google, Nvidia, OpenAI и Kakao. В отличие от обычных AI-детекторов, он ищет намеренно внедрённый сигнал, устойчивый к сжатию и фильтрам. Загруженные файлы обрабатываются в реальном времени и сразу удаляются.
Это не универсальный AI-детектор. Мы можем обнаруживать медиа только от вышеперечисленных компаний, которые внедрили технологию SynthID.
- Tiberium
Поразительно, что для этого требуется авторизация. Собственный инструмент OpenAI (https://openai.com/research/verify/) не требует авторизации.
Даже сама Google ранее предлагала способ без авторизации (правда, очень нишевый): если вы загружали изображение в поиск по картинкам Google и переходили в раздел «Об этом изображении», там отображалось, было ли изображение сгенерировано Google AI. Сейчас это не так.
- Retr0id
Очень жаль, что Google не более прозрачна в том, как это на самом деле работает, и не предоставляет никакого механизма для классификации изображений массово или офлайн.
Это лучшая статья про SynthID, которую я нашёл на данный момент: https://fyx.me/articles/attempting-model-extraction-of-googl...
В ней рассказывается, как это на самом деле работает (вероятно), и как обучить собственный классификатор для этого, с, судя по всему, довольно приличными результатами.
- jdranczewski
Наконец-то, предыдущие реализации были очень глупыми! У OpenAI был хороший инструмент, но он обнаруживал только их собственные водяные знаки, а процесс Google заключался в том, чтобы «загрузить изображение в Gemini и спросить, сгенерировано ли оно ИИ», что казалось нелепой тратой токенов и сил.
(Хотя в соседнем комментарии указывают на использование поиска по картинкам Google как альтернативу, я не помню, чтобы это упоминалось в статье поддержки, которую я читал, так что, к сожалению, я об этом не знал)
- HelloUsername
https://blog.google/innovation-and-ai/models-and-research/go...
- nialv7
Какого чёрта мне нужно входить в систему?