Les modifications apportées aux modèles d'IA peuvent entraîner des fuites de données sensibles via des « empreintes » de mise à jour.
infohightech ·
Les systèmes d'intelligence artificielle (IA) sont aujourd'hui largement utilisés par des millions de personnes dans le monde entier, comme outils pour rechercher des informations ou accomplir des tâches spécifiques plus rapidement et plus efficacement. Parmi les plus utilisés figurent les grands modèles de langage (LLMs), des modèles informatiques entraînés sur de vastes corpus de textes capables de traiter et de générer du contenu écrit dans diverses langues.
Malgré leur popularité croissante, les risques potentiels des modèles de recherche en ligne (LLM) n'ont pas encore été clairement élucidés. Certaines études antérieures ont montré que ces modèles peuvent parfois générer un contenu factuellement incorrect ou non pertinent par rapport à la requête d'un utilisateur, mais leurs vulnérabilités potentielles aux cyberattaques restent mal connues.
Des chercheurs de l'Institut Qi Zhi de Shanghai, de l'Université normale de Chine orientale, de l'Université Tsinghua et de l'Académie chinoise des sciences ont récemment démontré que des procédures visant à corriger le code LLM ou à supprimer les informations fournies par les utilisateurs pouvaient être exploitées par des cybercriminels pour accéder à des données confidentielles. Leur article, publié sur le serveur de prépublication arXiv , présente également une approche susceptible d'atténuer ce risque de sécurité nouvellement identifié.
« Les grands modèles de langage (LLM) sont pré-entraînés sur des corpus contenant des milliards de jetons et, par conséquent, mémorisent inévitablement des informations sensibles », écrivent Zhiyu Sun, Minrui Luo et leurs collègues dans leur article. « Les méthodes de localisation puis d'édition, paradigme courant d'édition de modèles, offrent une solution prometteuse en modifiant les paramètres du modèle sans réentraînement. »
« Cependant, dans ce travail, nous révélons une vulnérabilité critique de ce paradigme : les mises à jour des paramètres servent involontairement de canal auxiliaire, permettant aux attaquants de récupérer les données modifiées. Nous proposons une attaque de rétro-ingénierie en deux étapes nommée textit{KSTER} (textbf{K}eytextbf{S}paceReconstextbf{T}ruction-then-textbf{E}ntropytextbf{R}eduction) qui exploite la structure de faible rang de ces mises à jour. »
Une attaque récemment découverte contre les LLM
Pour corriger les erreurs commises par les modèles linéaires logiques (MLL) ou supprimer les données stockées, les informaticiens utilisent souvent des stratégies d'édition de modèles, qui leur permettent d'ajuster les paramètres internes d'un modèle. Une technique d'édition de modèles couramment utilisée, appelée « localisation puis édition », vise à identifier les parties d'un MLL les plus responsables de la génération d'informations indésirables, puis à modifier directement les paramètres associés à ces parties.
Sun, Luo et leurs collègues ont démontré que ces modifications de paramètres peuvent entraîner la fuite d'informations sensibles sur les utilisateurs, en les exposant indirectement via des signaux qui n'étaient pas censés révéler d'informations. Les chercheurs ont conçu une attaque exploitant cette faille de sécurité et ont montré qu'elle permettait d'extraire avec succès des informations sensibles de divers modèles de langage à longue portée (LLM), notamment GPT-J, Llama-3 et Qwen-2.5.
« Premièrement, nous démontrons théoriquement que l'espace des lignes de la matrice de mise à jour encode une "empreinte digitale" des sujets modifiés, permettant une récupération précise de ces sujets par analyse spectrale », écrivent Sun, Luo et leurs collègues. « Deuxièmement, nous présentons une attaque de récupération rapide basée sur l'entropie, qui reconstruit le contexte sémantique de la modification. De nombreuses expériences menées sur plusieurs LLM démontrent que nos attaques permettent de récupérer des données modifiées avec un taux de réussite élevé. »
Atténuer l'attaque nouvellement identifiée
Les résultats obtenus par cette équipe de recherche montrent que, si la modification d'un modèle linéaire généralisé (LLM) permet généralement de corriger les problèmes plus rapidement qu'un réentraînement, elle introduit également des risques de sécurité considérables. Dans leur article, Sun, Luo et leurs collègues ont présenté une nouvelle stratégie de défense permettant de réduire le risque d'extraction indirecte de données sensibles lors des processus de modification du modèle.
« Nous proposons textit{subspace camouflage}, une stratégie de défense qui masque l'empreinte de mise à jour à l'aide de leurres sémantiques », écrivent les auteurs. « Cette approche atténue efficacement les risques de reconstruction sans compromettre la fonctionnalité d'édition. »
Le code de l'attaque développé par les chercheurs ainsi que la stratégie de défense qu'ils ont mise au point sont disponibles sur GitHub . D'autres équipes de recherche pourraient bientôt s'appuyer sur leurs travaux et évaluer plus en détail l'impact de cette stratégie de modification de modèle par rétro-ingénierie pour la récupération malveillante de données sensibles effacées.
À l'avenir, cette étude récente pourrait également éclairer le développement d'autres outils de défense et de sécurité destinés à protéger les données sensibles stockées par les LLM. L'ensemble de ces efforts pourrait contribuer à renforcer la sécurité de ces appareils, à protéger les utilisateurs et à limiter les violations de données sensibles.
https://techxplore.com/news/2026-02-ai-leak-sensitive-fingerprints.html