El ataque que corrompe un modelo de IA sin tocar un solo byte en disco
Detecting model weight tampering in GPU memory (Rome attacks)
Los ataques ROME (Rank-One Model Editing) permiten que un módulo Python malicioso reescriba los pesos de un modelo directamente en la memoria de la GPU, cambiando sus respuestas sin modificar ningún archivo. Las herramientas de seguridad tradicionales, centradas en procesos, archivos y red, no ven nada: solo hay inferencia normal más unos cuantos kernels CUDA extra. Stealthium detecta estas manipulaciones vinculando cada lanzamiento de kernel CUDA con el código Python que lo originó, y su nueva investigación identifica además qué tensores cambiaron y desde qué ruta de código.
El checkpoint en disco no cambió entre las dos ejecuciones, y no se sustituyó ningún archivo de respuestas. Lo que cambió fue una biblioteca importada maliciosa que se inyectó en PyTorch.