Des modifications microscopiques d’images peuvent contourner les garde-fous de l’IA, doublant presque par 2, les réponses dangereuses.
Image modifiée à l’aide de JaiLIP. Développée par des chercheurs de la FIU, cette méthode de manipulation d’images permet de contourner les mécanismes de sécurité intégrés à certains modèles d’IA. Crédit : Taimy Alvarez / Université internationale de Floride
Cela peut ressembler à l’image d’un panda pour vous, mais pour l’agent IA de votre entreprise, cela peut agir comme une clé passe-partout, contournant les mesures de sécurité et pouvant potentiellement amener le modèle à générer des résultats nuisibles, trompeurs ou contraires aux politiques de l’entreprise.
Ce risque est au cœur des nouvelles recherches d’Hadi Amini, professeur associé à la Knight Foundation School of Computing and Information Sciences de l’Université internationale de Floride. En collaboration avec son assistant de recherche, Md Jueal Mia, il étudie comment des images manipulées peuvent contourner les mécanismes de sécurité de certains systèmes d’IA, les poussant ainsi au-delà de leurs protections intégrées.
« Les modèles d’IA ne perçoivent pas les images de la même manière que les humains », a déclaré Amini. « Ils voient des motifs de nombres et de pixels. En manipulant soigneusement ces pixels, nous pouvons influencer la façon dont l’IA interprète l’image et réagit. »
Les recherches de l’équipe ont démontré que les modèles d’IA à langage réduit — souvent utilisés par les petites entreprises pour exécuter des tâches routinières comme la comptabilité ou le service client — sont devenus particulièrement vulnérables aux manipulations d’images. Comme le montrent les recherches publiées dans IEEE Xplore , l’équipe a découvert qu’en introduisant des modifications microscopiques au niveau des pixels, appelées « perturbations », dans une image, il était possible de tromper ces systèmes d’IA et de les amener à générer des réponses qu’ils bloqueraient normalement.
M. Hadi Amini explique le fonctionnement des garde-fous de sécurité liés à l’IA. Crédit : Taimy Alvarez / Université internationale de Floride
« L’image manipulée ressemble au visage d’un inconnu », a déclaré Amini. « L’IA doit apprendre à traiter une requête avec prudence avant d’y répondre. Afin de protéger les systèmes d’IA contre les attaques, nous essayons de les compromettre nous-mêmes, d’identifier les vulnérabilités potentielles et de concevoir des mécanismes de défense. »
Les chercheurs se sont ensuite attelés à sonder les défenses du système. Plus ils parvenaient à pénétrer les garde-fous des modèles, plus les systèmes pouvaient être entraînés à résister aux menaces futures. Pour ce faire, Amini et son équipe ont développé une méthode appelée JaiLIP (Jailbreaking with Loss-guided Image Perturbation), qui utilise un algorithme pour déterminer le degré optimal de manipulation au niveau du pixel.
Lors de tests menés avec BLIP-2, un modèle d’IA multimodal utilisé par les chercheurs et les développeurs, Amini et son équipe ont constaté que les images modifiées avec JaiLIP augmentaient considérablement la probabilité que le système génère des réponses dangereuses ou inappropriées. Par exemple, une version modifiée d’un feu tricolore avec JaiLIP a trompé le modèle d’IA, qui a alors divulgué des instructions détaillées sur la manière de franchir le feu sans contravention. Globalement, l’utilisation d’images JaiLIP a quasiment doublé le nombre de réponses inappropriées générées par les modèles d’IA.
Le risque ne se limite pas aux utilisateurs qui sollicitent des systèmes d’IA pour obtenir des instructions sur des activités illégales. À mesure que les entreprises adoptent de plus en plus d’agents de service client, de chatbots et de flux de travail automatisés basés sur l’IA, les vulnérabilités des systèmes open source ou faiblement protégés pourraient nuire à la confiance des utilisateurs ou ouvrir de nouvelles perspectives aux cyberattaques.
Le Dr Hadi Amini explique comment la manipulation de pixels trompe l’IA. Crédit : Taimy Alvarez / Université internationale de Floride
« Les PME et les grandes entreprises peuvent tirer profit de l’IA pour améliorer leur efficacité, mais elles doivent être conscientes des vulnérabilités potentielles », a déclaré Amini. « Elles doivent veiller à mettre en place des garde-fous suffisants pour garantir la sécurité et l’intégrité de leurs outils d’IA. »
Le Dr Amini a déclaré qu’il existe certaines précautions de base que chacun devrait prendre avant d’intégrer l’IA dans son entreprise ou son lieu de travail, notamment limiter les informations sensibles qu’il fournit aux systèmes d’IA (en particulier les images), restreindre l’accès à ces systèmes et évaluer soigneusement les mesures de sécurité intégrées aux outils d’IA avant leur déploiement.
La sécurité étant primordiale, Amini et son équipe s’efforcent de garder une longueur d’avance sur les acteurs malveillants potentiels dans le domaine de l’IA. Plus ils identifieront de vulnérabilités, plus l’IA apprendra rapidement à les corriger. Le défi, explique-t-il, consiste à garantir que l’IA puisse reconnaître les menaces pourtant évidentes, même lorsque les humains ne les détectent pas.
https://techxplore.com/news/2026-06-microscopic-image-bypass-ai-guardrails.html