Cómo hackear agentes de IA de atención al cliente y ganar más de $50,000 en recompensas
Hacking AI customer service agents
En DEF CON 34, Inti De Ceukelaire, miembro fundador de Intigriti, mostró cómo abusar de agentes de IA de soporte sin usar escáneres tradicionales. Mediante suplantación de correo, inyección de prompts y fallos en la validación de identidad, logró que los agentes enviaran correos de phishing, ejecutaran acciones no autorizadas y filtraran datos confidenciales. Estas técnicas le reportaron más de $50,000 en recompensas en solo unos fines de semana.
El agente recibe un correo válido de la víctima, que contiene el prompt en el asunto. Esto nos permite instruir al agente de IA de atención al cliente para que realice una acción en nombre de la víctima sin requerir ningún paso adicional.