Des scientifiques de l'UC Riverside développent un outil pour détecter les fausses vidéos
infohightech ·
À une époque où les vidéos manipulées peuvent diffuser de la désinformation, intimider les gens et inciter au mal, les chercheurs de l'UC Riverside ont créé un nouveau système puissant pour exposer ces faux.
Amit Roy-Chowdhury , professeur de génie électrique et informatique, et Rohit Kundu , doctorant au Marlan and Rosemary Bourns College of Engineering de l'UCR, se sont associés à des scientifiques de Google pour développer un modèle d'intelligence artificielle capable de détecter les manipulations vidéo, même lorsque celles-ci vont bien au-delà des simples échanges de visages et des altérations de la parole. (Roy-Chowdhury est également codirecteur de l'Institut de recherche et d'éducation en intelligence artificielle de l'UC Riverside (RAISE) , un nouveau centre de recherche interdisciplinaire de l'UCR.)
Leur nouveau système, baptisé UNITE (Universal Network for Identifying Tampered and synthEtic videos ou Réseau universel d'identification des vidéos falsifiées et synthétiques), détecte les falsifications en examinant non seulement les visages, mais aussi des images vidéo complètes, y compris les arrière-plans et les mouvements. Cette analyse en fait l'un des premiers outils capables d'identifier les vidéos synthétiques ou falsifiées, sans s'appuyer sur des visages.
Rohit Kundu et Amit Roy-Chowdhury
« Les deepfakes ont évolué », a déclaré Rohit Kundu. « Il ne s'agit plus seulement d'échanges de visages. On crée désormais des vidéos entièrement truquées – des visages aux arrière-plans – grâce à de puissants modèles génératifs. Notre système est conçu pour détecter tout cela. »
Le développement d'UNITE intervient alors que la conversion de texte en vidéo et d'image en vidéo est devenue largement accessible en ligne. Ces plateformes d'IA permettent à presque tout le monde de fabriquer des vidéos très convaincantes, ce qui représente de graves risques pour les individus, les institutions et la démocratie elle-même.
« C'est effrayant de voir à quel point ces outils sont devenus accessibles », précise Rohit Kundu. « N'importe qui, avec des compétences modérées, peut contourner les filtres de sécurité et générer des vidéos réalistes de personnalités publiques disant des choses qu'elles n'ont jamais dites. »
Rohit Kundu a expliqué que les anciens détecteurs de deepfakes se concentraient presque exclusivement sur les indices faciaux.
« S'il n'y a pas de visage dans le cadre, de nombreux détecteurs ne fonctionnent tout simplement pas », a-t-il déclaré. « Mais la désinformation peut prendre de nombreuses formes. Modifier l'arrière-plan d'une scène peut tout aussi facilement déformer la vérité. »
Pour y remédier, UNITE utilise un modèle d'apprentissage profond basé sur des transformateurs pour analyser les clips vidéo. Ce modèle détecte de subtiles incohérences spatiales et temporelles, des indices souvent ignorés par les systèmes précédents. Le modèle s'appuie sur un framework d'IA fondamental appelé SigLIP, qui extrait des caractéristiques non liées à une personne ou un objet spécifique. Une nouvelle méthode d'apprentissage, baptisée « perte de diversité d'attention », incite le système à surveiller plusieurs zones visuelles dans chaque image, l'empêchant ainsi de se concentrer uniquement sur les visages.
Le résultat est un détecteur universel capable de signaler une gamme de contrefaçons — des simples échanges de visages aux vidéos complexes et entièrement synthétiques générées sans aucune séquence réelle.
« C'est un modèle unique qui gère tous ces scénarios », assure Rohit Kundu. « C'est ce qui le rend universel. »
Les chercheurs ont présenté leurs résultats lors de la prestigieuse conférence 2025 sur la vision par ordinateur et la reconnaissance de formes (CVPR) à Nashville, dans le Tennessee. Intitulé « Vers un détecteur vidéo synthétique universel : des manipulations de visages ou d'arrière-plans au contenu entièrement généré par l'IA », leur article, dirigé par Kundu, décrit l'architecture et la méthodologie d'apprentissage d'UNITE. Parmi les co-auteurs figurent les chercheurs de Google Hao Xiong, Vishal Mohanty et Athula Balachandra. Co-parrainé par l'IEEE Computer Society et la Computer Vision Foundation, le CVPR compte parmi les plateformes de publication scientifique les plus influentes au monde.
La collaboration avec Google, où Kundu a effectué son stage, a donné accès à de vastes ensembles de données et à des ressources informatiques nécessaires pour former le modèle sur une large gamme de contenus synthétiques, notamment des vidéos générées à partir de texte ou d'images fixes - des formats qui bloquent souvent les détecteurs existants.
Bien qu'encore en développement, UNITE pourrait bientôt jouer un rôle essentiel dans la lutte contre la désinformation vidéo. Parmi les utilisateurs potentiels figurent les plateformes de réseaux sociaux, les vérificateurs de faits et les rédactions qui luttent contre la viralité des vidéos manipulées.
« Les gens méritent de savoir si ce qu'ils voient est réel », conclut Rohit Kundu. « Et à mesure que l'IA s'améliore pour simuler la réalité, nous devons nous améliorer pour révéler la vérité. »
https://news.ucr.edu/articles/2025/07/18/uc-riverside-scientists-develop-tool-detect-fake-videos