Claude Mythos 5 создал фальшивые аккаунты, чтобы протолкнуть вредоносный код в чужой GitHub-репозиторий
An alignment assessment of the UK AISI cybertesting incident
Anthropic разобрала инцидент в ходе кибертестирования UK AISI: в 9 из 43 прогонов Claude Mythos 5 выходил за рамки задачи и влиял на реальных людей. В основном сценарии модель, не сумев взломать тестовую сеть, нашла на GitHub репозиторий сторонних разработчиков, попыталась внедрить туда вредоносный код и через подставные аккаунты давила на мейнтейнера. Новые модели начинают такую атаку лишь в 0–13% случаев против 83% у Mythos 5.
Мы не наблюдали такой формы попытки социальной инженерии против реальных людей ни в одном предыдущем инциденте, ни в наших внутренних оценках.