Skip to main content

6 Juin, 2024

Des chercheurs affirment que la Russie utilise l’IA pour prédire le terrorisme aux Jeux olympiques de Paris

Des chercheurs affirment que la Russie utilise l’IA pour prédire le terrorisme aux Jeux olympiques de Paris

Sournois et même vicieux

La Russie fait passer sa machine de désinformation à la vitesse supérieure à l’approche des Jeux olympiques de Paris 2024 et, selon des chercheurs en cybersécurité de Microsoft, elle utilise l’IA pour y parvenir.

Le Centre d’analyse des menaces de Microsoft (MTAC) a publié hier un rapport décrivant l’utilisation sophistiquée par la Russie d’outils d’IA générative pour produire des contenus destinés à dénigrer le Comité international olympique (CIO) et à « créer l’attente d’une explosion de violence à Paris pendant les Jeux olympiques d’été de 2024 ».

Selon le rapport, ces attaques de désinformation ont débuté en juin 2023, lorsqu’un « acteur d’influence » affilié à la Russie, surnommé Storm-1679, a publié sur l’application Telegram un faux documentaire Netflix intitulé « Olympics Has Fallen », une parodie du film de 2013 « Olympus Has Fallen ».

Notant dans son rapport que le clip « démontrait plus d’habileté que la plupart des campagnes d’influence que nous observons », MCAT a expliqué que Storm-1679 avait utilisé l’IA pour imiter profondément la voix et la ressemblance de l’acteur américain Tom Cruise, qui « narrait » la fausse vidéo ; l’IA Cruise était mélangée à de « fausses critiques cinq étoiles » provenant d’organes réels et dignes de confiance comme le New York Times, le Washington Post et la BBC, le tout « au milieu de superbes effets spéciaux générés par ordinateur ».

L’objectif de la vidéo, selon le rapport, était de dénigrer le CIO, qui a interdit à la Russie de participer aux prochains Jeux en raison de sa guerre permanente et non provoquée contre l’Ukraine.

Mais le document trafiqué n’était qu’un début, selon le rapport. Plus récemment, Storm-1679 et un autre groupe « prolifique » appelé Storm-1099 ont diffusé de fausses vidéos d’information et de faux articles – souvent faussement attribués à de vrais organes d’information – créés pour laisser entendre que le terrorisme et la violence devraient éclater lors de l’événement à venir.

Dans une fausse vidéo « usurpant l’identité du radiodiffuseur français France24 », par exemple, « Storm-1679 a faussement affirmé que 24 % des billets achetés pour les épreuves olympiques avaient été retournés » en raison de « craintes de terrorisme », selon le rapport.

Les acteurs de la désinformation ont également rédigé de faux communiqués de presse émanant d’organismes de renseignement d’État tels que la Central Intelligence Agency et la Direction générale de la sécurité intérieure française, invitant les citoyens à s’abstenir d’assister aux Jeux en raison des risques pour la sécurité, et ont créé des images « probablement générées numériquement » de faux graffitis parisiens « menaçant de violence les Israéliens » qui prévoyaient d’assister aux Jeux.

Le rapport du MCAT ne mentionne pas les entreprises ou les produits d’IA spécifiques que ces mauvais acteurs pourraient utiliser. Mais comme le MCAT l’a indiqué dans son rapport, Storm-1099 est également connu sous le nom de « Doppelganger« . Dans un billet de blog OpenAI publié le 30 mai, la société d’IA financée par Microsoft a annoncé qu’elle avait attrapé et éliminé les efforts de désinformation perpétrés par Doppelganger dans lesquels des acteurs affiliés avaient utilisé ses modèles pour « traduire et éditer des articles en anglais et en français » qui étaient postés sur des sites web contrôlés par Doppelganger ; « générer des titres » ; et « convertir des articles d’actualité en posts Facebook », entre autres utilisations.

En d’autres termes, les acteurs russes utilisent probablement la technologie américaine, du moins en partie, pour créer et diffuser une propagande destructrice.

Le conflit entre la Russie et le CIO ne date pas d’hier, tout comme son passé bien documenté de désinformation sur les Jeux olympiques en particulier (sérieusement, ce passé remonte à des efforts analogues dans les années 80 de l’ère soviétique). Bien que l’efficacité des dernières attaques de la Russie contre les Jeux reste incertaine, la réalité est là : les opérateurs de l’État utilisent des outils d’IA générative, dont la Silicon Valley a été la pionnière, pour propulser des campagnes de désinformation.

Si l’on ajoute ce dernier rapport au nombre croissant de cas d’utilisation de l’IA dans les contenus et les campagnes politiques, on constate que l’IA ne cesse de s’immiscer dans les structures mondiales d’information et d’influence. Ne jamais croire tout ce que l’on voit en ligne a toujours été un bon conseil, mais aujourd’hui plus que jamais, il est préférable de vérifier trois fois ses sources.

https://futurism.com/russia-ai-disinformation-olympic-games