Un outil développé par l’Université de Californie à Riverside identifie les systèmes d’IA utilisés pour fabriquer des faux.

L’intelligence artificielle peut générer des vidéos si réalistes qu’il devient de plus en plus difficile de les distinguer des images authentiques. Mais une équipe d’informaticiens dirigée par des chercheurs de l’UC Riverside a mis au point un outil qui va au-delà de la simple identification des vidéos truquées : il détermine également quel système d’IA les a créées.

Ce nouveau cadre permet d’identifier des schémas visuels au sein de fausses images vidéo introduites involontairement par des générateurs vidéo IA, offrant ainsi une méthode d’analyse forensique pour identifier les systèmes ayant créé ces vidéos.

« Ces motifs sont comme des empreintes digitales laissées par le modèle génératif, et notre objectif était de déterminer si ces signatures étaient distinctes d’un générateur à l’autre. Il s’avère que oui, il existe bel et bien des empreintes digitales distinctes », explique Rohit Kundu , doctorant à l’UCR , qui a dirigé la recherche sous la direction du professeur Amit Roy-Chowdhury, en collaboration avec des chercheurs de YouTube et de Google DeepMind. (Roy-Chowdhury est également codirecteur de l’Institut de recherche et d’éducation en intelligence artificielle ( RAISE ) de l’UC Riverside.)

Ce nouveau cadre, baptisé SAGA (Source Attribution of Generative AI Videos), représente l’une des premières initiatives à grande échelle visant à retracer l’origine des vidéos générées par l’IA.

Cette innovation intervient alors que les systèmes d’IA générative progressent rapidement et que les vidéos de synthèse sont de plus en plus utilisées dans le divertissement, la publicité, l’éducation, les réseaux sociaux et la politique. Parallèlement, les inquiétudes grandissent quant à leur utilisation abusive dans les campagnes de désinformation, la fraude et autres activités trompeuses.

« Savoir qu’une vidéo est fausse ne suffit souvent pas », écrivent les chercheurs. « La question cruciale n’est plus de savoir si elle est fausse, mais plutôt quelle est sa source. »

La capacité d’identifier la source des contenus générés par l’IA pourrait aider les enquêteurs en criminalistique numérique à suivre les campagnes de désinformation, à aider les organismes de réglementation à faire respecter les exigences de transparence et à aider les entreprises technologiques à comprendre comment les médias synthétiques se propagent en ligne.

Contrairement aux images fixes, les vidéos contiennent des informations de mouvement et de temporalité : la façon dont les éléments visuels évoluent d’une image à l’autre au fil du temps. Différents générateurs vidéo basés sur l’IA produisent des motifs subtils dans ces changements, créant ainsi des artefacts distinctifs.

Pour détecter ces artefacts, l’équipe a analysé à la fois les détails spatiaux au sein de chaque image et les relations temporelles sur l’ensemble des séquences vidéo. Plutôt que d’examiner une seule image, le système étudie l’évolution de l’information visuelle à chaque instant.

Une innovation majeure réside dans une technique appelée Signatures d’Attention Temporelle (T-Sigs). Ces signatures permettent de visualiser les schémas uniques associés aux différents générateurs vidéo. En moyennant les schémas observés sur de nombreuses vidéos produites par le même système d’IA, SAGA génère un profil caractéristique qui aide à distinguer un générateur d’un autre.

Les chercheurs ont testé SAGA à l’aide d’ensembles de données publics contenant des vidéos générées par 19 générateurs vidéo d’IA différents. Parmi ceux-ci figuraient des systèmes de conversion texte-vidéo, qui créent des vidéos à partir de séquences écrites, et des systèmes de conversion image-vidéo, qui animent des images fixes.

Le système peut déterminer si une vidéo est réelle ou synthétique, identifier si elle a été créée à partir de texte ou d’images, distinguer les différentes versions des modèles d’IA sous-jacents et même identifier l’équipe de développement d’un modèle. 

Ces recherches sont décrites dans l’article intitulé « SAGA : Attribution de source des vidéos d’IA générative ». Outre Kundu et Roy-Chowdhury, les co-auteurs sont Vishal Mohanty, Shan Jian et Athula Balachandran de YouTube, ainsi que Hao Xiong de Google DeepMind.

L’an dernier, Kundu et Chowdhury ont dirigé une équipe qui a développé un modèle d’intelligence artificielle capable de détecter les manipulations vidéo. Leurs travaux actuels s’inscrivent dans un effort continu visant à sécuriser l’IA générative à mesure que des outils vidéo d’IA de plus en plus sophistiqués se généralisent, a déclaré Kundu.

« C’est assurément un jeu du chat et de la souris », a-t-il déclaré. 

https://news.ucr.edu/articles/2026/07/24/new-tool-identifies-sources-fake-videos