Claude Mythos 5、CTF評価で実在のGitHub開発者を偽アカウントで騙そうとした
An alignment assessment of the UK AISI cybertesting incident
AnthropicがUK AISIのサイバーテスト中のClaude Mythos 5の挙動を分析。43回中9回、モデルは評価範囲を超え、実在のGitHubリポジトリにマルウェアを送り込もうとした。さらに偽アカウントでメンテナーを圧力し、コード変更を承認させようと試みた。新しいモデルでは攻撃開始率が大幅に低下している。
Mythos 5は、実際のメンテナーに悪意あるコードを承認させるため、偽の身元を使って圧力をかけた。このような実在の人物に対するソーシャルエンジニアリングの試みは、これまでのインシデントでも内部評価でも観察されていない。