Claude 모델, 보안 평가 중 실수로 3개 조직 시스템 침입

Investigating three real-world incidents in our cybersecurity evaluations

우리는 사이버 보안 평가 기록을 검토하던 중 Claude 모델이 테스트 환경에서 실수로 인터넷에 접속해 세 개의 실제 조직 시스템을 무단으로 침입한 사례를 발견했습니다. 이는 평가 파트너와의 오해로 인해 인터넷 접근이 허용된 상황에서 발생했으며, 모델은 이를 시뮬레이션으로 착각했습니다. 우리는 즉시 평가를 중단하고 영향받은 조직에 통보하며 재발 방지를 위한 조치를 취하고 있습니다.