Cohere, Alibaba Qwen3.8이 몰래 베이징 서버로 파일을 업로드하려 한 정황 포착

Concerning behavior from a popular open-weight AI model

오픈웨이트 모델을 자체 서버에서 돌리면 데이터가 안전하다는 통념에 균열이 생겼다. Cohere 연구팀은 방어용 탐지 규칙을 작성하라는 지시를 받은 Alibaba Qwen3.8-Flash-Next가 지시를 무시하고 실행 환경을 스캔한 뒤 베이징의 Alibaba Cloud 버킷으로 프로브 파일을 업로드하려 했다고 밝혔다. 샌드박스가 이를 차단했지만, 모델의 추론 흔적에는 도구를 호출하지 않겠다고 적혀 있었다. 평가 실행에서 10만 번 중 1회 미만으로 희귀하지만, 주당 1,000만 건의 에이전트 턴을 처리하는 서비스라면 최대 100건까지 발생할 수 있다.