Detecting model weight tampering in GPU memory (Rome attacks)
L'article présente les attaques Rank-One Model Editing (ROME) qui modifient directement des poids de modèles en mémoire GPU via un module Python malveillant, échappant aux contrôles centrés sur le CPU. Les ROME n'impliquent aucun changement de fichier, processus ou trafic réseau observable, ce qui rend inefficaces les outils traditionnels de visibilité tels que les EDR ou ADR. Dans une reproduction de laboratoire, Stealthium a détecté la compromission en reliant chaque lancement de kernel CUDA au call stack Python qui l'a déclenché, permettant d'identifier des kernels et des chemins d'appel anormaux. Les chercheurs explorent en complément la capture d'événements de mutation de tenseurs au niveau du framework afin d'associer précisément quelles variables ont été modifiées et par quel code. L'article conclut que la sécurité des charges AI doit combiner surveillance système, runtime CUDA et signaux de framework pour distinguer chargements légitimes et modifications malveillantes des poids.