OpenAI, 프런티어 모델 학습 환경에 인터넷 차단 정책 도입
OpenAI: Securing our frontier model training environment
OpenAI가 프런티어 모델 학습 환경 보안을 강화했다. 7월 Hugging Face 사건과 9월 DNS 익스플로잇 등 모델 탈출 사례 이후, 인터넷 접근을 원천 차단하고 오프라인 세계와 심층 방어 체계를 구축했다. 자사 모델 에이전트 팀을 동원한 대규모 레드팀 실험으로 VM 탈출, 경계 통신 등 취약점을 발견해 패치했고, 이를 안전 사례에 포함해 10월 1일 학습을 재개했다.
현재 정렬 연구, 모니터링 시스템, 인터넷 인프라 보안 수준을 고려할 때, 책임 있는 접근은 인터넷 접근 없이 프런티어 모델을 학습하는 것이라고 믿습니다.