Des chercheurs mettent en garde contre un « angle mort » de l'IA qui pourrait permettre à des attaquants de détourner des véhicules autonomes.

infohightech ·

Une vulnérabilité récemment découverte pourrait permettre aux cybercriminels de détourner silencieusement les systèmes d'intelligence artificielle (IA) des voitures autonomes, ce qui soulève des inquiétudes quant à la sécurité des systèmes autonomes de plus en plus utilisés sur les routes publiques.

Une vulnérabilité récemment découverte pourrait permettre aux cybercriminels de détourner silencieusement les systèmes d'intelligence artificielle (IA) des voitures autonomes, ce qui soulève des inquiétudes quant à la sécurité des systèmes autonomes de plus en plus utilisés sur les routes publiques.

 Des chercheurs en cybersécurité de Georgia Tech ont découvert cette vulnérabilité, baptisée VillainNet, et ont constaté qu'elle pouvait rester dormante dans le système d'IA d'un véhicule autonome jusqu'à ce qu'elle soit déclenchée par des conditions spécifiques.

Une fois déclenché, VillainNet a presque certainement de fortes chances de réussir, donnant aux attaquants le contrôle du véhicule ciblé.

L'étude révèle que des attaquants pourraient programmer presque n'importe quelle action au sein du super-réseau d'IA d'un véhicule autonome pour déclencher VillainNet. Dans un scénario possible, ce dernier pourrait être déclenché lorsque l'IA d'un taxi autonome réagit à la pluie ou à l'évolution des conditions routières.

Une fois aux commandes, les pirates informatiques pourraient prendre les passagers en otage et menacer de provoquer un accident de taxi.

Les chercheurs ont découvert cette nouvelle menace d'attaque par porte dérobée dans les super-réseaux d'IA qui alimentent les systèmes de conduite autonome. 

« Les super-réseaux sont conçus pour être le couteau suisse de l'IA, permettant de changer d'outils, ou dans ce cas de sous-réseaux, selon les besoins de la tâche à accomplir », a déclaré David Oygenblik , doctorant à Georgia Tech et chercheur principal du projet. 

« Cependant, nous avons constaté qu'un adversaire peut exploiter cette faille en attaquant un seul de ces minuscules outils. L'attaque reste totalement dormante jusqu'à ce que ce sous-réseau spécifique soit utilisé, se dissimulant ainsi parmi des milliards d'autres configurations inoffensives. » 

D'après Oygenblik, cette attaque par porte dérobée est quasiment infaillible. Cette faille est presque indétectable avec les outils actuels et peut affecter tout véhicule autonome fonctionnant grâce à l'IA. Elle peut être dissimulée à n'importe quelle étape du développement et concerner des milliards de scénarios.

« Avec VillainNet, l’attaquant oblige les défenseurs à chercher une aiguille dans une botte de foin qui peut contenir jusqu’à 10 quintillions de brins de paille », précise Oygenblik. 

« Nos travaux constituent un appel à l'action pour la communauté de la sécurité. À mesure que les systèmes d'IA deviennent plus complexes et adaptatifs, nous devons développer de nouvelles défenses capables de contrer ces menaces inédites et hyper-ciblées. » 

La solution envisagée consistait à renforcer la sécurité des super-réseaux. Ces réseaux contiennent des milliards de sous-réseaux spécialisés activables à la volée, mais Oygenblik souhaitait observer les conséquences d'une attaque ciblant un seul outil de sous-réseau.

Application des SuperNets et explication de la manière dont les réseaux virtuels (VNet) permettent des attaques ciblées sur les SuperNets en fonction des conditions de déploiement réelles. Crédit : 
Actes de la conférence ACM SIGSAC 2025 sur la sécurité informatique et des communications (2025). DOI : 10.1145/3719027.3765185

Lors des expériences, l'attaque VillainNet s'est avérée extrêmement efficace. Elle a atteint un taux de réussite de 99 % lorsqu'elle était activée tout en restant invisible au sein du système d'IA. 

L'étude révèle également que la détection d'une porte dérobée dans VillainNet exigerait une puissance de calcul et un temps de calcul 66 fois supérieurs pour vérifier la sécurité du système d'IA. Ce défi, qui élargit considérablement le champ de recherche des attaques, est irréalisable, selon les chercheurs.

Le projet a été présenté à la conférence ACM sur la sécurité informatique et des communications (CCS) en octobre 2025. L'article, VillainNet: Targeted Poisoning Attacks Against SuperNets Along the Accuracy-Latency Pareto Frontier ou VillainNet : Attaques d'empoisonnement ciblées contre les super-réseaux le long de la frontière de Pareto précision-latence , a été co-écrit par Oygenblik, les étudiants de maîtrise Abhinav Vemulapalli et Animesh Agrawal , l'étudiant en doctorat Debopam Sanyal , le professeur agrégé Alexey Tumanov et le professeur agrégé Brendan Saltaformaggio . 

https://news.gatech.edu/news/2026/01/27/researchers-warn-ai-blind-spot-could-allow-attackers-hijack-self-driving-vehicles

https://dx.doi.org/10.1145/3719027.3765185

Cet article vous a été utile ? Partagez-le.