Google Gemini envía tus archivos de Drive y correos a revisores humanos sin avisar
Google Gemini routes personal Drive files and emails to human annotators
Google prometió en 2023 que el contenido personal de Gmail, Docs y Drive no sería visto por revisores humanos. Ahora, en una edición de octubre de su blog y en una página de ayuda, la compañía confirma lo contrario: los archivos y correos conectados pasan a pipelines de revisión humana. Las pruebas muestran que la ingesta ocurre de forma autónoma en conversaciones cotidianas, sin etiquetas @Drive ni @Gmail, y de manera probabilística: a veces no se recupera nada, a veces se filtra el archivo completo sin redactar.
No conectes tus aplicaciones a Gemini Apps si contienen información confidencial que no querrías que un revisor viera.
- bri3d
Ten en cuenta que esto es específicamente Gemini de Consumo con Aplicaciones Conectadas; Gemini de Workspace (y Workspace Intelligence, la cosa de RAG para empresa/Workspace) todavía afirma no estar sujeto a revisión humana:
https://knowledge.workspace.google.com/admin/generative-ai/g...
Así que básicamente si usas Gemini de consumo y autorizas específicamente la aplicación de GMail, por ejemplo, entonces a veces usará la herramienta de GMail para cargar tu correo desde GMail, y esos datos (como todos los datos en Gemini de consumo) podrían ser entregados al pipeline de anotación humana.
Todo esto me parece profundamente estúpido desde el punto de vista de Google, aunque nunca han sido buenos en gestión de productos: hay _demasiados_ matices en lo que está pasando y, incluso si técnicamente no les afecta, este tipo de cosas casi con seguridad hará que sus clientes empresariales de pago desconfíen.
- rustyhancock
Realmente frustrante que nuestra privacidad se haya erosionado hasta el punto de que cualquiera piense que esto es razonable.
Pero sí explica algunas conversaciones con Gemini cuando me pregunto por qué habla de ciertas cosas. Como preguntarle sobre procesos de consulta para cambios en parques solo para recibir una respuesta que está sintonizada de manera inquietante con el correo que recibí que motivó la consulta.
Sin mencionar que acabo de leer tus correos, etc.
- EMM_386
Es peor que eso.
> Los datos de Google Photos se utilizan para inferir tus intereses, relaciones con las personas en tus fotos y dónde has estado, incluso asociando tu rostro con datos de ubicación y marcas de tiempo correspondientes. Estos datos también se utilizan para hacer cosas por ti, como buscar tu información o agregar artículos a tu lista de compras, y para mejorar los servicios de Google, incluido el entrenamiento de IA generativa.
¿Cómo funciona eso exactamente si las imágenes ni siquiera son reales y son generadas por IA? Cuando Google absorbe estas fotos para ayudarlos a entrenar su IA, ¿la IA ahora hará asociaciones como se representa en esa fotografía?
¿Que realmente estabas con esa persona, en ese lugar, en esa situación, en esa fecha? ¿Como una especie de hecho?
¿Puede alguien más crear esa imagen y simplemente ponerla en su biblioteca y luego hacer que eso se convierta en un hecho en tu nombre cuando se recoja, analice y entrene con ella?
¿A dónde lleva todo eso?
- hek2sch
Cualquier herramienta que tenga revisores humanos manuales o anotadores como todo Gemini y notebooklm (ahora Gemini notebook) sufre de esto. Tus datos tienen una alta probabilidad de ser leídos por personas aleatorias o de filtrarse para entrenamiento porque podrían marcarlos y luego usarlos para "mejorar" el modelo.
- whatever1
En nombre de la carrera de la IA estamos tomando muchos atajos (privacidad, calidad, viabilidad comercial, etc.). Como cualquiera en software sabe, la deuda eventualmente vencerá.
- jan_m_savage
No tengo ningún dato en google drives. :) No quise confiar en ellos desde el principio.
- fierycatnet
Eso es simplemente irresponsable. Si esto se parece a las antiguas reseñas de búsqueda de Google (Appen, etc.), entonces contratarán a cualquiera como contratista. No quiero que mi datos sean revisados por alguna persona aleatoria.
- statsins
La privacidad es irrelevante de ahora en adelante