Les plateformes de médias sociaux ne font pas assez pour arrêter les robots d'IA nuisibles, selon une étude
infohightech ·
Si les robots d’intelligence artificielle (IA) peuvent avoir une fonction légitime sur les réseaux sociaux (marketing ou service client, par exemple), certains sont conçus pour manipuler le débat public, inciter à la haine, diffuser de fausses informations ou commettre des fraudes et des escroqueries. Pour lutter contre les activités potentiellement dangereuses des robots, certaines plateformes ont publié des politiques sur l’utilisation des robots et créé des mécanismes techniques pour faire respecter ces politiques.
Mais ces politiques et mécanismes suffisent-ils à assurer la sécurité des utilisateurs des médias sociaux ?
Paul Brenner, directeur du Centre de recherche informatique de l'Université de Notre Dame (Photo de Barbara Johnston/Université de Notre Dame)
De nouvelles recherches menées par l'Université de Notre Dame ont analysé les politiques et mécanismes des robots d'intelligence artificielle de huit plateformes de médias sociaux : LinkedIn, Mastodon, Reddit, TikTok, X (anciennement Twitter) et les plateformes Meta Facebook, Instagram et Threads. Les chercheurs ont ensuite tenté de lancer des robots pour tester les processus d'application des politiques des robots.
Les chercheurs ont publié avec succès un message « test » bénin provenant d’un bot sur chaque plateforme.
« En tant qu’informaticiens, nous savons comment ces robots sont créés, comment ils se connectent et à quel point ils peuvent être malveillants, mais nous espérions que les plateformes de réseaux sociaux bloqueraient ou arrêteraient les robots et que cela ne poserait pas vraiment de problème », a déclaré Paul Brenner , membre du corps professoral et directeur du Center for Research Computing de Notre Dame et auteur principal de l’étude. « Nous avons donc examiné ce que les plateformes, souvent de manière vague, déclarent faire, puis nous avons testé pour voir si elles appliquent réellement leurs politiques. »
Les chercheurs ont découvert que les plateformes Meta étaient les plus difficiles à utiliser pour lancer des bots : il fallait plusieurs tentatives pour contourner leurs mécanismes d’application des politiques. Bien que les chercheurs aient accumulé trois suspensions au cours du processus, ils ont réussi à lancer un bot et à publier un message « test » lors de leur quatrième tentative.
La seule autre plateforme qui a posé un léger problème était TikTok, en raison de l'utilisation fréquente de CAPTCHA. Mais trois plateformes n'ont posé aucun problème.
« Reddit, Mastodon et X étaient insignifiants », a déclaré Paul Brenner. « Malgré ce que disent leurs politiques ou les mécanismes techniques dont ils disposent, il était très facile de mettre en place un bot et de le faire fonctionner sur X. Ils n'appliquent pas efficacement leurs politiques. »
Cadre de test d’application de la politique des robots de médias sociaux utilisé dans l’étude.
À la date de publication de l'étude, tous les comptes et publications de robots de test étaient encore en ligne. Brenner a expliqué que les stagiaires, qui n'avaient qu'un niveau d'études secondaires et une formation minimale, ont pu lancer les robots de test en utilisant une technologie facilement accessible au public, soulignant à quel point il est facile de lancer des robots en ligne.
Dans l’ensemble, les chercheurs ont conclu qu’aucune des huit plateformes de réseaux sociaux testées n’offre une protection et une surveillance suffisantes pour protéger les utilisateurs contre les activités malveillantes des robots. Brenner a fait valoir que des lois, des structures d’incitation économique, une éducation des utilisateurs et des avancées technologiques sont nécessaires pour protéger le public contre les robots malveillants.
« Il faut une législation américaine obligeant les plateformes à distinguer les comptes humains des comptes robots, car nous savons que les gens ne peuvent pas faire la différence entre les deux par eux-mêmes », précise Paul Brenner. « Les conditions économiques actuelles sont défavorables, car le nombre de comptes sur chaque plateforme est une base de revenus marketing. Cette question doit être posée aux décideurs politiques. »
Pour créer leurs robots, les chercheurs ont utilisé Selenium, une suite d'outils permettant d'automatiser les navigateurs Web, ainsi que GPT-4o et DALL-E 3 d'OpenAI. La recherche, publiée sous forme de pré-impression sur ArXiv, a été menée par Kristina Radivojevic, doctorante à Notre Dame, et soutenue par les stagiaires étudiants du CRC Catrell Conley, Cormac Kennedy et Christopher McAleer.