디스크는 그대로인데 모델 답변이 바뀐다 — GPU 메모리에서 벌어지는 ROME 공격
Detecting model weight tampering in GPU memory (Rome attacks)
ROME(Rank-One Model Editing) 공격은 악성 Python 모듈이 GPU 메모리에서 모델 가중치를 직접 덮어써 특정 주제의 답변을 조작한다. 파일 접근도, 새 프로세스도, 네트워크 통신도 없어 EDR 같은 기존 보안 도구에는 평범한 추론 작업으로 보인다. Stealthium은 모든 CUDA 커널 실행을 이를 호출한 Python 코드와 연결해 탐지하고, 나아가 어떤 텐서가 어느 코드 경로에서 바뀌었는지까지 추적하는 연구를 진행 중이다.
디스크에서는 단 한 바이트도 바뀌지 않은 채 모델이 특정 주제에 대해 오염될 수 있다. 스캔할 것도, 잡아낼 프로세스도, 찾아 대조할 시그니처도 없다.