Хакеры манипулируют ChatGPT и Gemini, чтобы направлять пользователей к мошенникам

Hackers influence ChatGPT and Gemini to direct users to scam centers

Исследователи обнаружили масштабные атаки на ChatGPT, Gemini и Google AI Overview: злоумышленники наводняют интернет GEO-оптимизированным контентом, чтобы ИИ выдавал поддельные контакты поддержки как официальные. Атакованы 374 компании, включая Delta, Lufthansa, Chase, Bank of America, Airbnb и TripAdvisor. Автоматизированные кампании публикуют тысячи постов в день, обходя традиционные механизмы удаления. Google и OpenAI сочли проблему выходящей за рамки программ bug bounty.