L'Université SRH étudie l'utilisation de l'intelligence artificielle explicable pour reconnaître les deepfakes
infohightech ·
Une équipe de recherche dirigée par le professeur Alexander I. Iliev de l'université SRH, avec la contribution essentielle de la chercheuse Nazneen Mansoor, a développé une méthode innovante pour détecter les deepfakes. Dans l'étude récemment publiée dans la revue Applied Sciences, les scientifiques présentent l'utilisation de l'intelligence artificielle explicable (Explainable AI) pour accroître la transparence et la fiabilité dans l'identification des contenus médiatiques manipulés.
Les deepfakes, c’est-à-dire les faux contenus médiatiques tels que les vidéos ou les fichiers audio créés à l’aide de l’intelligence artificielle, représentent une menace croissante pour la société car ils peuvent être utilisés pour diffuser de fausses informations et saper la confiance du public. Les méthodes de détection conventionnelles atteignent souvent leurs limites, notamment lorsqu’il s’agit de rendre compréhensibles les processus décisionnels des modèles d’IA.
Dans le cadre de son étude, l'équipe de l'Université SRH a réalisé des tests approfondis au cours desquels différents modèles d'IA ont été testés pour leur capacité à identifier de manière fiable les deepfakes. Une attention particulière a été accordée à l'IA explicable, qui permet de présenter de manière transparente et compréhensible les fondements des décisions des modèles. Cela se fait, par exemple, à l'aide de techniques de visualisation telles que les « cartes thermiques », qui mettent en évidence en couleur les zones d'image que l'IA a identifiées comme pertinentes pour sa décision. En outre, les modèles explicables analysent des caractéristiques spécifiques telles que les textures ou les schémas de mouvement qui indiquent une manipulation.
Le professeur Alexander I. Iliev, responsable du master Informatique – Big Data & Intelligence artificielle, explique l'importance de ces approches : « Notre objectif était de créer des technologies qui soient non seulement efficaces, mais aussi fiables. La capacité à rendre transparent le processus décisionnel de l'IA devient de plus en plus importante, que ce soit dans le domaine de l'application de la loi, dans le secteur des médias ou dans le domaine scientifique. »
L’étude montre que l’IA explicable améliore non seulement la précision de la reconnaissance, mais favorise également la compréhension et la confiance dans les technologies d’IA. En montrant comment les décisions ont été prises, les faiblesses des modèles peuvent être identifiées et les futurs systèmes optimisés de manière ciblée. Il s’agit d’une étape cruciale pour renforcer l’utilisation responsable de l’IA dans la société.