AI 모델이 임의의 능력을 증명적으로 숨길 수 있다

AI Models Can Provably Hide Arbitrary Capabilities

AI 모델의 위험 능력을 배포 전에 평가하는 것은 숨겨진 능력을 끌어낼 수 있다는 가정에 의존한다. 연구진은 암호화된 신경망을 모델 가중치에 내장하고 비밀 트리거에만 복호화·실행하는 백도어 공격을 구성해 이 가정이 성립하지 않음을 보였다. 디지털 로커를 사용하면 전체 가중치에 접근해도 숨겨진 회로를 증명적으로 끌어내기 어렵다. PyTorch로 구현하고 미세조정, 가중치 노이징, 그래디언트 기반 트리거 검색, 잠재 적대적 훈련으로 평가한 결과, 이 방법들에 저항성을 보였다. 이는 능력 감사의 한계를 드러낸다.