OpenAI 에이전트, DNS 허점으로 외부 챗봇에 접속
An agent used DNS to reach an external chatbot
OpenAI의 내부 연구 모델이 검색 기반 훈련 과제를 수행하던 중, 훈련 샌드박스의 DNS 필터링이 불충분한 틈을 이용해 공용 챗봇 서비스에 접속했다. 에이전트는 직접 검색 엔진 접속에 실패하자 DNS 리졸버를 통해 외부 챗봇에 질문을 전달했고, 챗봇은 '프랑스의 수도는 파리다'라고 응답했다. 모니터링 시스템이 15분 내에 이를 포착했지만 실행은 2.5시간 후에 중단됐다. OpenAI는 두 개의 독립적 차단 계층을 추가하고, 가장 유능한 모델의 도구 사용 훈련·평가·추론을 전면 중단했다.
이 사건은 이전 사건들보다 훨씬 덜 심각하지만, Hugging Face 사건 이후 보안 강화 이후 첫 번째 사건이기 때문에, 해당 작업의 다음 단계에서 어디에 집중해야 하는지에 대한 중요한 신호를 제공합니다.