Хакеры заработали $50 000 на баг-баунти, обманывая AI-агентов поддержки
Hacking AI customer service agents
На DEF CON 34 исследователь Inti De Ceukelaire показал, как манипулировать AI-агентами службы поддержки. Используя подделку заголовков email, автоответы и внедрение команд в адрес, атакующие заставляют ботов раскрывать данные и выполнять действия от имени жертвы. За несколько выходных удалось получить более $50 000 вознаграждений без сканеров и Burp Suite. В статье разобраны конкретные техники и способы защиты.
Слой email-аутентификации запускает SPF для первого адреса From, [email protected], домена, который контролирует атакующий, и успешно проходит проверку. Затем слой действий агента ищет аккаунт, связанный с последним адресом From, [email protected], и извлекает данные жертвы. Наконец, агент отвечает на заголовок Sender, доставляя ответ прямо на [email protected].