Un agente de compras con IA filtró datos personales en el 12% de las pruebas
Can AI Shopping Agents Be Trusted?
F-Secure construyó un agente de compras con Claude Haiku y Playwright, y un marketplace simulado con una reseña que contenía una inyección de prompt indirecta. En 100 ejecuciones, el 88% de las veces ignoró o alucinó el código de descuento, pero en el 12% visitó el sitio de phishing y envió automáticamente nombre, fecha de nacimiento y número de Seguro Social. Casi nunca reportó la filtración: solo dijo que no encontró el descuento.
En lugar de informar que había compartido la información personal del usuario con un sitio web externo, simplemente reportó que el código de descuento no se pudo encontrar o usar.