Dos millones de prompts con señuelos revelan tres brechas en proveedores de IA
AI Supply Chain Security: What Canary Tokens Found

Dragos envió cerca de dos millones de prompts con URLs y credenciales canario únicas a servicios de IA populares y rastreó qué pasaba después de la inferencia. Hallaron tres proveedores comprometidos, con claves AWS robadas usadas en decenas de miles de llamadas API, revendedores de un marketplace que leían y retenían prompts sin explotar ninguna vulnerabilidad, y proveedores que ignoraban los ajustes de privacidad: prompts enviados a servicios de EE. UU. terminaron en organizaciones chinas de IA, incluso con la marca Zero Data Retention.
Una marca de privacidad no sirve de nada cuando el atacante ya está dentro.
- jofzar
https://openrouter.ai/blog/announcements/data-processing-inc...
La respuesta de Openrouter.
Honestamente, no estoy seguro de cómo alguien podría volver a confiar en ellos para ZDR alguna vez; no parece que estén haciendo su debida diligencia. (Ver residencia de datos abajo)
> Esto no se limitó a las solicitudes enviadas directamente al laboratorio. Varios proveedores de alojamiento de EE. UU. revenden los modelos de este laboratorio, y las solicitudes enviadas a esos proveedores activaron exactamente el mismo scraper: las solicitudes fluían de vuelta al laboratorio. Un cliente que eligió un proveedor de EE. UU. específicamente para mantener sus datos en EE. UU. no obtuvo lo que pagó.
Edición: Pensando más en esto, no veo cómo podrían haber ofrecido ZDR a menos que el "proveedor" tenga más que perder que ellos. La razón por la que confías en Amazon/Google con ZDR es porque si rompen el contrato o los pillan, habrá una demanda masiva y una reacción social/industrial enorme.
Los "proveedores" a través de openrouter no tienen esa misma exposición; toda la reputación está con openrouter y ahora que la cadena de confianza está rota, no veo cómo alguien de buena fe podría volver a usarlos para su "zdr" o ubicación de "alojamiento" nunca más.
- matltc
Esquivé una bala. He sido un usuario básico de CC desde el principio, pensé que podría probar estos openrouters, hablan mucho de ellos aquí. En retrospectiva, parece obvia y tremendamente inseguro, ya que ahora estás confiando tus datos a cientos de proveedores.
- DotNetCorePowa
Casi me decidí por openrouter esta misma semana, pero decidí ir con "umans" para el zdr...
Me alegro de no haber elegido OR, pero ahora ¿puedo confiar en la empresa belga...? Hmm...