Pixels empoisonnés : un nouvel outil d’IA pour lutter contre les images deepfake malveillantes

L'université Monash et la police fédérale australienne (AFP : Australian Federal Police) s'associent pour prendre l'ascendant technologique sur les cybercriminels grâce à une dose de poison numérique.

Le laboratoire AI for Law Enforcement and Community Safety (AiLECS), une collaboration entre l'AFP et l'université Monash, développe un nouvel outil de perturbation qui, parmi ses nombreuses applications, peut ralentir et arrêter les criminels produisant du matériel pédopornographique généré par l'IA, de la propagande technologique extrémiste et des images et vidéos deepfake.

Connue sous le nom d’« empoisonnement des données » (data poisoning), cette technique consiste en une altération subtile des données afin de rendre beaucoup plus difficile la production, la manipulation et le détournement d’images ou de vidéos à l’aide de programmes d’IA.

L'intelligence artificielle et les outils d'apprentissage automatique nécessitent d'importantes quantités de données en ligne pour produire du contenu généré par l'IA. Or, en pervertissant ces données, les modèles d'IA produisent des résultats inexacts, biaisés ou corrompus. Cela facilite également la détection d'images ou de vidéos truquées créées par des criminels.

Ce système d'intelligence artificielle novateur, baptisé « Silverer », est actuellement au stade de prototype. Il est développé depuis 12 mois sous la direction d'Elizabeth Perry, doctorante et chercheuse à AiLECS, chef de projet.

Mme Perry a expliqué que ce nom était un clin d'œil à l'argent utilisé pour fabriquer les miroirs. De même, l'outil servirait à créer des reflets d'une image originale.

« Dans ce cas précis, c'est comme glisser de l'argent derrière le verre, de sorte que lorsque quelqu'un essaie de regarder à travers, il ne voit qu'un reflet totalement inutile », a-t-elle expliqué.

« Avant de publier des images sur les réseaux sociaux ou sur Internet, il est possible de les modifier à l'aide de Silverer. Ce logiciel altère les pixels afin de tromper les modèles d'IA, et les images résultantes sont de très mauvaise qualité, couvertes de motifs flous, voire totalement méconnaissables. »

Campbell Wilson, professeur agrégé et expert en criminalistique numérique et codirecteur d'AiLECS, a déclaré que la génération d'images fausses et malveillantes devenait un problème de plus en plus important.

« Actuellement, ces images et vidéos nuisibles générées par l'IA sont relativement faciles à créer grâce à des technologies open source, et les barrières à l'entrée pour utiliser ces algorithmes sont très faibles », a déclaré le professeur agrégé Wilson.

La police fédérale australienne (AFP) a constaté une augmentation des contenus pédopornographiques générés par l'intelligence artificielle, des criminels exploitant cette technologie pour produire et diffuser en ligne d'importantes quantités de faux contenus explicites.

Le commandant de l'AFP, Rob Nelson, a déclaré que les technologies d'empoisonnement de données étaient encore à leurs balbutiements et en cours d'essai, mais qu'elles avaient montré des résultats préliminaires prometteurs en termes de capacité de maintien de l'ordre.

« Le principal problème réside dans le détournement de la technologie de l'IA à des fins malveillantes », a déclaré le commandant Nelson.

« Par exemple, si un criminel tente de générer des images par IA à partir de données altérées, l'image obtenue sera déformée ou totalement différente de l'originale. En altérant les données, nous les protégeons en réalité contre toute utilisation malveillante. »

Le commandant Nelson a déclaré que cet outil de perturbation pourrait également aider les enquêteurs en réduisant le volume de faux documents à examiner.

« Il existe déjà un certain nombre d’algorithmes d’empoisonnement des données, et comme nous le constatons dans d’autres domaines de la cybersécurité, de nouvelles méthodes pour les éviter apparaissent rapidement. »

« Nous ne pensons pas qu'une seule méthode puisse empêcher l'utilisation malveillante ou la reproduction des données. Cependant, notre démarche s'apparente à l'installation de ralentisseurs sur une piste de courses de rue illégales. Nous mettons en place des obstacles pour compliquer l'utilisation abusive de ces technologies. »

L’objectif principal du projet de recherche « Silverer » est de développer et de continuer à améliorer une technologie facile à utiliser pour les Australiens ordinaires qui souhaitent protéger leurs données sur les réseaux sociaux.

La version prototype de l'outil fait actuellement l'objet de discussions en vue d'une utilisation interne au sein des AFP.

https://www.monash.edu/news/articles/poisoned-pixels-new-ai-tool-to-fight-malicious-deepfake-images