Las empresas de IA filtran datos a los anunciantes
AI companies leak data to advertisers [pdf]
Un análisis de nueve servicios de IA conversacional, como ChatGPT, Gemini y Claude, revela que todos integran rastreadores publicitarios. Seis de las nueve versiones web y tres de las ocho aplicaciones Android comparten títulos, prompts y capturas de conversaciones con terceros, a menudo junto a identificadores persistentes. Algunos incluso exponen conversaciones completas mediante enlaces públicos sin control de acceso. Los autores advierten que esto crea una nueva superficie de ataque a la privacidad y analizan las implicaciones legales bajo el RGPD y la Directiva ePrivacy.
Nuestros resultados desafían la percepción de los servicios de IA conversacional como intercambios confidenciales entre usuarios y proveedores de IA.
- delis-thumbs-7e
En un viejo episodio de Los Simpson, Lisa visita la sala de profesores, donde todo el personal se burla de los niños. El jardinero Willie está haciendo una pantomima de Milhouse: "¡Oh, soy Milhouse, le cuento todos mis secretos a Willie porque no tengo amigos!", y los profesores se ríen. Más tarde, le pasa algo vergonzoso a Milhouse y sale corriendo llorando: "¡Tengo que contárselo a Willie!".
Ahora todos nos hemos convertido en Milhouse.
- Coeur
"múltiples proveedores divulgan artefactos sensibles derivados de conversaciones —incluidos títulos, prompts y capturas de pantalla— a terceros, a menudo junto con identificadores persistentes de usuario que permiten la atribución del usuario. También encontramos que algunos proveedores exponen públicamente enlaces permanentes de conversaciones sin controles de acceso, lo que permite a los rastreadores leer la conversación completa".
Nada bueno.
- drywater2
No, no "filtran datos", los datos se venden. Filtrar datos requiere un error. Esto es intencional.
- pbasista
Tangencial:
Hace poco noté que, por ejemplo, ChatGPT, cuando se usa desde un navegador web, envía periódicamente prompts sin terminar a sus servidores, concretamente al endpoint `conversation/prepare`, sin esperar a que el usuario lo envíe realmente.
Estos datos parciales del prompt podrían usarse potencialmente para "precalentar" algún tipo de caché.
Pero también podrían usarse para rastrear el ritmo de escritura del usuario, su estilo de corrección de errores y la evolución de sus ideas embrionarias a medida que se van formulando en un prompt. Supongo que esos datos también podrían venderse a los anunciantes.
- kdaniel_03
Es la misma lección que la pelea por el crédito de Navier-Stokes a principios de este mes. Buckmaster y Alpoge tenían sus borradores no publicados en sesiones privadas de Codex y OpenAI dice que nadie los vio, pero admite que datos de producto anonimizados pueden haber mejorado sus modelos. Allí son datos de entrenamiento, aquí son rastreadores publicitarios. En cualquier caso, los prompts y resultados que deberían permanecer privados no lo están.
Por eso, aunque los modelos abiertos no sean perfectos, tienen que ganar. Puedes saltarte la app y ejecutar el modelo tú mismo.
- segmondy
Antes de esta nueva era de la IA, tus datos se calculaban y lo que se infería sobre ti era "superficial", pero a día de hoy, el tipo de perfil y las cosas que se pueden saber sobre ti dan miedo, especialmente si interactúas constantemente con IA en la nube. En mi opinión, el riesgo número uno de usar IA en la nube es la pérdida de privacidad y la pérdida de libertad. Con la IA y sus capacidades, se pueden imponer más controles a las personas y cuanto más te expones, más pierdes.
Por ejemplo, ahora tenemos coches autónomos, tenemos cámaras por todas partes. Basándote en tu chat con una IA en la nube, se puede activar automáticamente un evento de monitoreo automático que te sigue y te rastrea en el mundo real con la flota de cámaras, coches, GPU, señal celular. Tu rastreo debido a la IA se ha trasladado al mundo real y, con el tiempo, un coche autónomo te llevará para ser "procesado" contra tu voluntad, no ya por lo que publicaste en un foro público, sino por tus bromas y charlas privadas con alguna IA en la nube.
Así que definitivamente incluye la IA local en la mezcla y mantén lo personal y tus pensamientos solo en local.
- j4k0bfr
Esto me sorprende un poco, considerando cuánto les encanta a las empresas de IA acumular datos. ¡Especialmente porque algunas de estas empresas de publicidad son competidores directos!
Mi mejor conjetura es que estos mecanismos publicitarios son un poco apresurados y/o que las demandas de rentabilidad de los inversores están chocando con el propio interés de las empresas.
Edición: Supongo que siempre habrá que filtrar algunos datos para que los anuncios en chats de IA sean más efectivos. Pero imagino que las empresas de IA preferirían entregar ellos mismos los anuncios segmentados en lugar de dejar que los competidores lo hagan por ellas. Daría miedo ver a las empresas de IA convertirse también en empresas de publicidad (en lugar de solo alojarlas).
- skybrian
Por si a alguien le resulta útil, le pedí a ChatGPT que desglosara lo que encontraron por aplicación: