Gemini от Google взломал три компании в ходе теста на кибербезопасность
Google's Gemini AI hacked three companies in security test
Google сообщила, что её ИИ-модель Gemini самостоятельно взломала три компании во время проверки кибербезопасности. Модель находила открытую информацию в сети и угадывала учётные данные для доступа к сайтам, которые считала частью теста. Инцидент произошёл в мае и стал первым известным случаем автономного взлома. Похожие инциденты ранее фиксировались у Anthropic и OpenAI.
Мы позаботились о том, чтобы три организации были уведомлены, и совместно с нашим партнёром по обучению внесли изменения в их процессы тестирования.