Google Gemini тайно отправляет личные файлы и письма из Drive на проверку людям
Google Gemini routes personal Drive files and emails to human annotators
Google отменил обещание 2023 года о том, что личные данные из Gmail, Docs и Drive не просматриваются людьми. В обновлённой справке и правке блога компания прямо предупреждает: подключённые файлы и письма попадают в конвейер ручной проверки. Тесты показывают, что это происходит автономно, без явных @-тегов, а извлечение данных вероятностно — от краткого пересказа до полной выгрузки документа вместе с заголовками.
Не подключайте свои приложения к Gemini Apps, если они содержат конфиденциальную информацию, которую вы не хотели бы показывать проверяющему.
- bri3d
Обратите внимание, что речь идёт именно о потребительском Gemini с подключёнными приложениями; Workspace Gemini (и Workspace Intelligence, RAG-штука для предприятий/Workspace) по-прежнему утверждают, что не подлежат проверке людьми:
https://knowledge.workspace.google.com/admin/generative-ai/g...
Так что в основном, если вы используете потребительский Gemini и специально авторизуете приложение GMail, например, то он иногда будет использовать инструмент GMail, чтобы загрузить вашу почту из GMail, и эти данные (как и все данные в потребительском Gemini) могут быть переданы в конвейер человеческой аннотации.
Вся эта история кажется мне глубоко глупой с точки зрения Google, хотя они никогда не были хороши в управлении продуктами — в происходящем _слишком_ много нюансов, и даже если технически их это не затрагивает, подобные вещи почти наверняка заставят их платящих корпоративных клиентов насторожиться.
- rustyhancock
Очень обидно, что наша приватность деградировала до такой степени, что кто-то может считать это разумным.
Но это объясняет некоторые разговоры с Gemini, когда я удивляюсь, почему он говорит о конкретных вещах. Например, спрашиваешь его о процессах консультаций по изменениям в парках, а в ответ получаешь что-то жутко настроенное под письмо, которое я получил с этим запросом.
Ни слова о том, что я просто прочитал ваши письма, и т.д.
- EMM_386
Всё хуже.
> Данные Google Photos используются для вывода ваших интересов, отношений с людьми на ваших фотографиях и того, где вы были, в том числе путём сопоставления вашего лица с соответствующими данными о местоположении и временными метками. Эти данные также используются для выполнения действий за вас, например для поиска вашей информации или добавления товаров в список покупок, и для улучшения сервисов Google, включая обучение генеративного ИИ.
Как это вообще работает, если изображения даже не настоящие и сгенерированы ИИ? Когда Google собирает эти фотографии, чтобы помочь обучить свой ИИ, ИИ теперь будет делать ассоциации, как изображено на этой фотографии?
Что вы действительно были с тем человеком, в том месте, в той ситуации, в ту дату? Как некий факт?
Может ли кто-то другой создать такое изображение, просто положить его в свою библиотеку, и оно станет фактом от вашего имени, когда его подхватят, проанализируют и обучат на нём?
К чему всё это ведёт?
- hek2sch
Любой инструмент, имеющий ручных проверяющих или аннотаторов, как весь Gemini и notebooklm (теперь Gemini notebook), страдает от этого. Ваши данные с высокой вероятностью будут прочитаны случайными людьми или утекут для обучения, потому что они могут пометить их, а затем использовать для «улучшения» модели.
- whatever1
Во имя гонки ИИ мы идём на множество компромиссов (приватность, качество, коммерческая жизнеспособность и т.д.). Как знает любой в разработке ПО, долг в конечном итоге придётся отдавать.
- jan_m_savage
У меня нет никаких данных на Google Дисках. :) С самого начала не хотел им доверять.
- fierycatnet
Это просто безответственно. Если это похоже на старые проверки поиска Google (Appen и т.п.), то они наймут кого угодно в качестве подрядчика. Я не хочу, чтобы мои данные проверял какой-то случайный человек.
- statsins
Приватность в дальнейшем не имеет значения