AI가 만든 가짜 정보 보고서에 미군이 중국 선박 나포 작전 직전까지 갔다

US Military had close call after using AI for hallucinated intelligence report

이란과의 전쟁 중이던 올봄, 미군 내부에 중국 선박이 핵무기 부품을 운반 중이라는 정보 보고서가 돌았다. 미군은 무장 병력을 태운 항공기를 띄우고 선박 나포 작전을 준비했지만, 실행 직전 해당 보고서가 AI 챗봇의 환각으로 만들어진 '완전히 거짓'인 내용임이 드러났다. 소식통은 이것이 '거의 전쟁을 일으킬 뻔했다'고 말한다. 미 국방부는 AI 도입을 가속화하고 있지만, 검증 기준 없이 분산된 도구 사용이 초래할 치명적 위험을 이 사건이 보여준다.