Des chercheurs de l'Université de New York développent une nouvelle méthode de détection de deepfakes en temps réel 

infohightech ·

Les vidéos et les fichiers audio deepfake sont très dangereux pour les personnes mal intentionnées. Les chercheurs de l'université NYU Tandon développent de nouvelles techniques pour lutter contre les menaces deepfake. Université de NYU Tandon

Les deepfakes, des vidéos et des sons hyperréalistes créés à l'aide de l'intelligence artificielle, représentent une menace croissante dans le monde numérique d'aujourd'hui. En manipulant ou en fabriquant du contenu pour le faire paraître authentique, les deepfakes peuvent être utilisés pour tromper les spectateurs, diffuser de la désinformation et ternir des réputations. Leur utilisation abusive s'étend à la propagande politique, à la manipulation sociale, au vol d'identité et à la cybercriminalité.

À mesure que la technologie deepfake devient plus avancée et plus largement accessible, le risque de préjudice sociétal augmente. L’étude des deepfakes est essentielle pour développer des méthodes de détection, sensibiliser et établir des cadres juridiques pour atténuer les dommages qu’ils peuvent causer dans les sphères personnelles, professionnelles et mondiales. Il sera nécessaire de comprendre les risques associés aux deepfakes et leur impact potentiel pour préserver la confiance dans les médias et la communication numérique.

C'est là qu'intervient Chinmay Hegde , professeur associé d'informatique et d'ingénierie et d'ingénierie électrique et informatique à l'université de New York Tandon.

Chinmay Hegde, professeur associé d'informatique et d'ingénierie et d'ingénierie électrique et informatique à NYU Tandon, développe des systèmes de test-réponse pour détecter les deepfakes audio et vidéo. NYU Tandon

« Je m’intéresse de manière générale à la sécurité de l’IA sous toutes ses formes. Et lorsqu’une technologie comme l’IA se développe si rapidement et devient si performante, c’est un domaine propice à l’exploitation par des personnes qui voudraient faire du mal », souligne Chinmay Hegde.

Originaire d'Inde, Chinmay Hegde a vécu dans le monde entier, notamment à Houston, au Texas, où il a passé plusieurs années en tant qu'étudiant à l'Université Rice ; à Cambridge, dans le Massachusetts, où il a effectué un travail postdoctoral dans le groupe de théorie du calcul (TOC) du MIT ; et à Ames, dans l'Iowa, où il a occupé un poste de professeur au département de génie électrique et informatique de l'Université d'État de l'Iowa.

Chinmay Hegde, dont le domaine d'expertise est le traitement des données et l'apprentissage automatique , concentre ses recherches sur le développement d'algorithmes rapides, robustes et certifiables pour divers problèmes de traitement de données rencontrés dans des applications couvrant l'imagerie et la vision par ordinateur, le transport et la conception de matériaux. À Tandon, il a travaillé avec le professeur d'informatique et d'ingénierie Nasir Memon, qui a éveillé son intérêt pour les deepfakes.

« Il y a six ans à peine, la technologie de l’IA générative était encore très rudimentaire. Un jour, l’un de mes étudiants est venu nous montrer comment le modèle était capable de créer un cercle blanc sur un fond sombre, et nous avons tous été vraiment impressionnés à l’époque. Aujourd’hui, nous avons des faux en haute définition de Taylor Swift, de Barack Obama, du pape. C’est stupéfiant de voir à quel point cette technologie a évolué. Je pense qu’elle pourrait bien continuer à s’améliorer à partir de maintenant », a-t-il déclaré.

Chinmay Hegde a aidé à diriger une équipe de recherche de la NYU Tandon School of Engineering qui a développé une nouvelle approche pour lutter contre la menace croissante des deepfakes en temps réel (RTDF) – des faux fichiers audio et vidéo sophistiqués générés par l'intelligence artificielle qui peuvent imiter de manière convaincante des personnes réelles dans des appels vidéo et vocaux en temps réel.

Des incidents très médiatisés de fraude deepfake se produisent déjà, notamment une récente escroquerie de 25 millions de dollars utilisant de fausses vidéos, et la nécessité de contre-mesures efficaces est évidente.

Dans deux articles distincts, des équipes de recherche montrent comment les techniques de « défi-réponse » peuvent exploiter les limitations inhérentes aux pipelines de génération RTDF actuels, provoquant des dégradations de la qualité des usurpations d’identité qui révèlent leur tromperie.

Dans un article intitulé « GOTCHA : Real-Time Video Deepfake Detection via Challenge-Response », les chercheurs ont développé un ensemble de huit défis visuels conçus pour signaler aux utilisateurs lorsqu'ils n'interagissent pas avec une personne réelle.

« La plupart des gens connaissent le CAPTCHA, le test en ligne qui permet de vérifier qu'ils sont bien des êtres humains. Notre approche s'inspire de cette technologie, en posant essentiellement des questions ou en formulant des demandes auxquelles RTDF ne peut pas répondre de manière appropriée », a déclaré Chinmay Hegde, qui a dirigé les recherches sur les deux articles.

Cadre de défi des vidéos originales et deepfake. Chaque ligne aligne les sorties par rapport à la même instance de défi, tandis que chaque colonne aligne la même méthode deepfake. Les barres vertes sont une métaphore du score de fidélité, les barres plus hautes suggérant une fidélité plus élevée. Les barres manquantes impliquent que le deepfake spécifique n'a pas réussi à relever ce défi spécifique. NYU Tandon

L'équipe de recherche vidéo a créé un ensemble de données de 56 247 vidéos de 47 participants, évaluant des défis tels que les mouvements de la tête et le fait d'obscurcir ou de couvrir délibérément des parties du visage. Les évaluateurs humains ont obtenu un score d'aire sous la courbe (AUC) d'environ 89 % pour la détection des deepfakes (plus de 80 % est considéré comme très bon), tandis que les modèles d'apprentissage automatique ont atteint environ 73 %.

« Des défis comme déplacer rapidement une main devant votre visage, faire des expressions faciales dramatiques ou changer soudainement l'éclairage sont simples à réaliser pour de vrais humains, mais très difficiles à reproduire de manière convaincante pour les systèmes deepfake actuels lorsqu'on leur demande de le faire en temps réel », précise Chinmay Hegde.

Défis audio pour la détection des deepfakes

Dans un autre article intitulé « Balisage assisté par l’IA des appels audio deepfake à l’aide de défis-réponses », les chercheurs ont créé une taxonomie de 22 défis audio répartis en différentes catégories. Parmi les plus efficaces, on trouve le chuchotement, le fait de parler avec une main en coupe sur la bouche, le fait de parler à voix haute, de prononcer des mots étrangers et de parler sur fond de musique ou de discours.

« Même les systèmes de clonage de voix les plus modernes ont du mal à maintenir la qualité lorsqu’on leur demande d’effectuer ces tâches vocales inhabituelles à la volée », assure Chinmay Hegde. « Par exemple, chuchoter ou parler d’une voix inhabituellement élevée peut dégrader considérablement la qualité des deepfakes audio. »

L'étude audio a porté sur 100 participants et plus de 1,6 million d'échantillons audio deepfake. Elle a utilisé trois scénarios de détection : les humains seuls, l'IA seule et une approche collaborative homme-IA. Les évaluateurs humains ont atteint une précision d'environ 72 % dans la détection des faux, tandis que l'IA seule a obtenu de meilleurs résultats avec une précision de 85 %.

L’approche collaborative, dans laquelle les humains émettent des jugements initiaux et peuvent réviser leurs décisions après avoir pris connaissance des prédictions de l’IA, a atteint une précision d’environ 83 %. Ce système collaboratif a également permis à l’IA de prendre des décisions finales dans les cas où les humains étaient incertains.

« L’essentiel est que ces tâches soient faciles et rapides pour de vraies personnes, mais difficiles à simuler en temps réel pour l’IA. » Chinmay Hegde, Université de NYU Tandon

Les chercheurs soulignent que leurs techniques sont conçues pour être pratiques dans le monde réel, la plupart des défis ne prenant que quelques secondes à réaliser. Un défi vidéo typique peut impliquer un geste rapide de la main ou une expression faciale, tandis qu'un défi audio peut être aussi simple que de chuchoter une courte phrase.

« L’essentiel est que ces tâches soient simples et rapides pour les personnes réelles, mais difficiles à simuler en temps réel pour l’IA », a déclaré Chinmay Hegde. « Nous pouvons également randomiser les défis et combiner plusieurs tâches pour plus de sécurité. »

À mesure que la technologie deepfake continue de progresser, les chercheurs prévoient d'affiner leurs séries de défis et d'explorer des moyens de rendre la détection encore plus robuste. Ils s'intéressent particulièrement au développement de défis « composés » qui combinent plusieurs tâches simultanément.

« Notre objectif est de fournir aux gens des outils fiables pour vérifier à qui ils parlent réellement en ligne, sans perturber les conversations normales », conclut Chinmay Hegde. « À mesure que l’IA s’améliore pour créer des faux profils, nous devons améliorer notre capacité à les détecter. Ces systèmes de questionnement-réponse sont une étape prometteuse dans cette direction. »

https://spectrum.ieee.org/real-time-deepfakes

Cet article vous a été utile ? Partagez-le.