KI-Kundenservice-Agenten hacken: 50.000 Dollar in wenigen Wochenenden
Hacking AI customer service agents
Inti De Ceukelaire, Gründungsmitglied von Intigriti, zeigt auf der DEF CON 34, wie Angreifer KI-Kundenservice-Agenten mit Prompt-Injection, E-Mail-Spoofing und Parser-Diskrepanzen austricksen können. Ohne Burp Suite oder Scanner erbeutete er über 50.000 Dollar an Bug-Bounties. Die Angriffe reichen vom Versenden von Phishing-Mails über Support-Adressen bis zur Manipulation von Tool-Aufrufen und der Umgehung von 2FA – ein Weckruf für Entwickler, die KI-Agenten sicher zu härten.
Mit Spoofing haben wir bereits bewiesen, dass einige Chatbots den Absender nicht korrekt mit dem Kontoinhaber verifizieren.