Атака ROME незаметно переписывает веса модели прямо в памяти GPU
Detecting model weight tampering in GPU memory (Rome attacks)
Исследователи из Stealthium показали атаку Rank-One Model Editing (ROME): вредоносный Python-модуль внедряется в PyTorch и меняет веса модели прямо в памяти GPU, не трогая файлы на диске. Для EDR и мониторинга это выглядит как обычный инференс. Сенсор Stealthium связывает каждый запуск CUDA-ядра с вызвавшим его Python-кодом и замечает необычный стек вызовов и ядра, которых не бывает при чистом запуске.
Модель можно испортить в отношении конкретной темы, не изменив ни единого байта на диске. Сканировать нечего, ловить нечего, сигнатуру искать и сопоставлять не с чем.