Les structures des modèles d'IA peuvent être volés à l'aide d'une simple petite antenne.
infohightech ·
De la reconnaissance faciale sur smartphone aux véhicules autonomes, l'intelligence artificielle (IA) a longtemps été considérée comme une boîte noire. Cependant, une équipe de recherche conjointe de KAIST et d'institutions internationales a mis au jour une nouvelle faille de sécurité permettant d'observer le fonctionnement interne de l'IA à travers les murs. L'équipe a également présenté des technologies de défense associées. Cette découverte devrait permettre de renforcer la sécurité de l'IA dans divers secteurs, notamment la conduite autonome, la santé et la finance.
L'équipe de recherche du professeur Jun Han, de l'École d'informatique de KAIST, en collaboration avec l'Université nationale de Singapour (NUS) et l'Université du Zhejiang, a développé ModelSpy, un système d'attaque capable de détourner à distance les structures de modèles d'IA à l'aide d'une simple antenne. Leur article a été présenté au Symposium sur la sécurité des réseaux et des systèmes distribués ( NDSS 2026 ), qui s'est tenu à San Diego du 23 au 27 février, et a reçu le prix du meilleur article.
Cette technologie fonctionne comme un dispositif d'écoute clandestine, capturant et analysant les signaux infimes émis par une IA en fonctionnement afin de reconstituer sa structure interne. L'équipe de recherche s'est concentrée sur les ondes électromagnétiques (EM) générées par les unités de traitement graphique (GPU), qui effectuent les calculs de l'IA.
Lorsqu'une IA effectue des calculs complexes, le GPU émet de faibles signaux électromagnétiques. En analysant les caractéristiques de ces signaux, l'équipe a réussi à reconstituer la configuration des couches et les paramètres détaillés du modèle d'IA.
Les résultats expérimentaux ont démontré que la structure des modèles d'IA pouvait être identifiée avec une grande précision jusqu'à 6 mètres de distance, même à travers des murs, sur cinq types de GPU de dernière génération. L'équipe a notamment estimé la structure centrale – les couches du modèle d'apprentissage profond – avec une précision atteignant 97,6 %.
Cette technologie est considérée comme une menace importante pour la sécurité car, contrairement au piratage traditionnel, elle ne nécessite ni infiltration directe du serveur ni installation de logiciel malveillant. Une attaque peut être menée à l'aide d'une simple antenne portable suffisamment petite pour tenir dans un sac.
Consciente que cette technologie pourrait entraîner la fuite des données d'IA critiques d'une entreprise, l'équipe de recherche a également proposé des mesures de défense, telles que le brouillage électromagnétique et l'obfuscation informatique. Cette étude de sécurité est saluée comme une démarche responsable qui, au-delà de la simple démonstration d'une attaque, propose des méthodes de protection réalistes.
« Ces recherches démontrent que les systèmes d'IA peuvent être exposés à de nouveaux types d'attaques, même dans des environnements physiques », a déclaré le professeur Han. « Afin de protéger les infrastructures critiques d'IA, telles que la conduite autonome et les installations nationales, il est essentiel de mettre en place des systèmes de sécurité cyberphysiques qui englobent à la fois le matériel et les logiciels. »
https://news.kaist.ac.kr/newsen/html/news/?mode=V&mng_no=60030