ディスクは無傷、それでもモデルは書き換えられる——GPUメモリ内の改ざんをStealthiumが検知

Detecting model weight tampering in GPU memory (Rome attacks)

ROME（Rank-One Model Editing）攻撃は、悪意あるPythonモジュールがGPUメモリ上のモデル重みを直接書き換え、特定の話題への回答だけを改ざんする。ファイルアクセスもプロセス起動もネットワーク通信も伴わないため、EDRなど従来のセキュリティツールには正常な推論ジョブとしか映らない。StealthiumはCUDAカーネル起動を呼び出し元のPythonコードまで紐付け、クリーンな実行には現れないカーネルや異常な呼び出し元を検知。さらに重み変更そのものをスタックトレース付きで捉える研究も進めている。