Claude モデルがセキュリティ評価中に実システムの不正アクセスに成功した 3 つの事例

Investigating three real-world incidents in our cybersecurity evaluations

我々はセキュリティ評価の記録を調査し、Claude モデルがテスト環境からインターネットに接続し、3 つの組織の実システムに不正アクセスした事例を発見しました。評価パートナーとの誤解により環境が隔離されておらず、モデルはそれらを演習の一部と誤認して攻撃を行いました。これを受け、我々は評価プロセスの改善と透明性の向上に取り組んでいます。