Nouvelle technique d'IA pour détecter les deepfakes audio
infohightech ·
Des chercheurs de l'agence scientifique nationale australienne CSIRO, de la Federation University Australia et de l'université RMIT ont mis au point une méthode permettant d'améliorer la détection des deepfakes audio.
La nouvelle technique, RAIS (Rehearsal with Auxiliary-Informed Sampling ou Répétition avec échantillonnage assisté par ordinateur), est conçue pour la détection des deepfakes audio, une menace croissante dans le domaine de la cybercriminalité, notamment pour contourner les systèmes d'authentification biométrique vocale, usurper l'identité et diffuser de la désinformation. Elle détermine si un extrait audio est authentique ou généré artificiellement (un « deepfake ») et conserve ses performances malgré l'évolution des types d'attaques.
En Italie, plus tôt cette année, une voix clonée par intelligence artificielle, imitant celle du ministre de la Défense, a exigé une « rançon » d'un million d'euros auprès de chefs d'entreprise influents, et certains ont cédé à la tentation. Ce n'est qu'un exemple parmi tant d'autres, qui souligne la nécessité de disposer de détecteurs de deepfakes audio.
Avec les progrès rapides de la technologie audio deepfake, les nouvelles « techniques de falsification » ne ressemblent souvent en rien aux anciennes.
« Nous voulons que ces systèmes de détection apprennent à reconnaître les nouveaux deepfakes sans avoir à réentraîner le modèle à partir de zéro. Si l'on se contente d'un simple ajustement sur les nouveaux exemples, le modèle oubliera les anciens deepfakes qu'il connaissait auparavant », a déclaré la co-auteure, Kristen Moore, du centre Data61 du CSIRO.
« RAIS résout ce problème en sélectionnant et en stockant automatiquement un petit ensemble diversifié d'exemples antérieurs, y compris des caractéristiques audio cachées que les humains pourraient même ne pas remarquer, afin d'aider l'IA à apprendre les nouveaux styles de deepfake sans oublier les anciens », a expliqué le Dr Moore.
RAIS utilise un processus de sélection intelligent, alimenté par un réseau qui génère des « étiquettes auxiliaires » pour chaque échantillon audio. Ces étiquettes permettent d'identifier un ensemble diversifié et représentatif d'échantillons audio à conserver et à répéter. En intégrant des étiquettes supplémentaires au-delà des simples étiquettes « faux » ou « réel », RAIS garantit un ensemble de données d'entraînement plus riche, améliorant ainsi sa capacité à mémoriser et à s'adapter au fil du temps.
Surpassant les autres méthodes, RAIS atteint le taux d'erreur moyen le plus bas, soit 1,95 %, sur une série de cinq expériences. Le code, disponible sur GitHub , reste efficace avec une mémoire tampon réduite et est conçu pour maintenir sa précision face à des attaques de plus en plus sophistiquées.
« Les deepfakes audio évoluent rapidement, et les méthodes de détection traditionnelles ne peuvent pas suivre le rythme », a déclaré Falih Gozi Febrinanto, récemment diplômé d'un doctorat de la Federation University Australia.
« RAIS aide le modèle à conserver ce qu’il a appris et à s’adapter aux nouvelles attaques. Globalement, il réduit le risque d’oubli et améliore sa capacité à détecter les deepfakes. »
« Notre approche améliore non seulement les performances de détection, mais rend également l'apprentissage continu applicable à des situations concrètes. En capturant toute la diversité des signaux audio, RAIS établit une nouvelle norme en matière d'efficacité et de fiabilité », a déclaré le Dr Moore.
Lire et télécharger l'article complet : Répétition avec échantillonnage assisté par ordinateur
https://www.csiro.au/en/news/All/News/2025/November/Audio-deep-fake