Meta a averti mercredi que les pirates utilisent la promesse d’une intelligence artificielle générative comme ChatGPT pour inciter les gens à installer du code malveillant sur les appareils.

Au cours du mois dernier, les analystes de la sécurité du géant des médias sociaux ont découvert des logiciels malveillants se faisant passer pour ChatGPT ou des outils d’IA similaires, a déclaré le responsable de la sécurité de l’information, Guy Guy Rosen, lors d’un briefing.

« La dernière vague de campagnes de logiciels malveillants a pris en compte la technologie d’IA générative qui capte l’imagination des gens et l’enthousiasme de chacun », lance Guy Rosen.

Meta, la société mère de Facebook, Instagram et WhatsApp, partage souvent ce qu’elle apprend avec ses pairs de l’industrie et d’autres membres de la communauté de la cyberdéfense.

Selon Guy Rosen, Meta a vu des « acteurs de la menace » faucher des extensions de navigateur Internet qui promettent des capacités d’IA génératives mais contiennent des logiciels malveillants conçus pour infecter les appareils.

En général, il est courant que les pirates appâtent leurs pièges avec des développements qui attirent l’attention, incitant les gens à cliquer sur des liens Web piégés ou à télécharger des programmes qui volent des données.

« Nous l’avons vu sur d’autres sujets populaires, tels que les escroqueries cryptographiques alimentées par l’immense intérêt pour la monnaie numérique », a déclaré Guy Rosen.

« Du point de vue d’un mauvais acteur, ChatGPT est le nouveau crypto. » Meta a trouvé et bloqué plus d’un millier d’adresses Web qui sont présentées comme des outils prometteurs de type ChatGPT, mais qui sont en fait des pièges tendus par des pirates, selon l’équipe de sécurité de l’entreprise technologique.

Meta n’a pas encore vu l’IA générative utilisée comme plus qu’un appât par les pirates, mais se prépare à l’inévitabilité qu’elle sera utilisée comme une arme, souligne Guy Rosen.

« L’IA générative est très prometteuse et les mauvais acteurs le savent, nous devons donc tous être très vigilants pour rester en sécurité », a averti Guy Rosen.

Dans le même temps, les équipes Meta travaillent sur des moyens d’utiliser l’IA générative pour se défendre contre les pirates et les campagnes d’influence en ligne trompeuses.

« Nous avons des équipes qui réfléchissent déjà à la façon dont (l’IA générative) pourrait être abusée et aux défenses que nous devons mettre en place pour contrer cela », a déclaré Nathaniel Gleicher, responsable de la politique de sécurité chez Meta, lors du briefing.

« Nous nous préparons pour cela. »

https://techxplore.com/news/2023-05-hackers-ai-malware.html

https://www.securityweek.com/hackers-promise-ai-install-malware-instead/