Debunkbot: le chatbot IA qui promet de convaincre les gens de renoncer aux théories du complot
infohightech ·
Vous connaissez peut-être quelqu’un qui pense que l’atterrissage sur la Lune a été truqué ou que les vaccins contre la COVID-19 sont remplis de puces électroniques. Les croyants s’accrochent avec ténacité à ces théories du complot, qui n’ont que peu de fondement dans la réalité, même lorsqu’elles sont présentées avec des preuves contraires. Mais selon une étude publiée aujourd’hui dans Science , certaines personnes changent d’avis lorsque des arguments fondés sur des faits sont présentés par un chatbot d’intelligence artificielle (IA) au lieu d’un autre être humain. Les conversations personnalisées avec ce « démystificateur » peuvent transformer même les théoriciens du complot les plus convaincus en sceptiques en herbe , rapportent les chercheurs.
« C’est très prometteur de voir comment l’IA peut jouer un rôle dans la lutte contre la désinformation et les théories du complot », déclare Jan-Willem Van Prooijen, spécialiste des sciences du comportement à l’Université libre d’Amsterdam, qui n’a pas participé à la nouvelle étude. L’IA générative est connue pour propager des faussetés, notamment par l’utilisation de deepfakes , et Jan-Willem Van Prooijen trouve donc « rafraîchissant » de la voir utilisée comme une force au service du bien.
Selon certaines estimations, près de la moitié de la population américaine croit à une théorie du complot, que ce soit la croyance selon laquelle la CIA a assassiné l’ancien président John F. Kennedy ou que la Zone 51 abrite des cadavres d’extraterrestres. De nombreux psychologues pensent que ces croyances contribuent à satisfaire des besoins psychologiques sous-jacents, comme le désir de sécurité. Mais les hypothèses sur ces « motivations souterraines » sont difficiles à tester, explique Thomas Costello, psychologue à l’American University et auteur principal de la nouvelle étude. Les nouvelles conclusions fournissent « l’une des premières preuves vraiment solides que ces théories ne racontent pas toute l’histoire », dit-il, « ou peut-être, en fait, qu’elles sont totalement fausses ».
Dans la vraie vie, les partisans d’une théorie du complot tentent souvent de contrer les détracteurs en présentant rapidement autant d’arguments que possible, une technique connue sous le nom de galop de Gish. Alors qu’aucun humain ne peut répondre à toutes ces affirmations à la fois, un programme d’IA pourrait le faire.
Thomas Costello et ses collègues voulaient savoir si les grands modèles linguistiques (LLM) tels que GPT-4 Turbo, qui traitent et génèrent d’énormes quantités d’informations en quelques secondes, pouvaient démystifier les théories du complot avec ce que Thomas Costello décrit comme des « persuasions sur mesure ».
L’équipe a recruté plus de 2 000 participants qui croyaient à au moins une théorie du complot, qu’ils définissent comme la croyance selon laquelle des événements ou des situations importants – l’assassinat de Kennedy ou la pandémie de COVID-19 – ont été secrètement orchestrés par des personnes ou des organisations puissantes. Ensuite, ils ont demandé à ces personnes d’engager une brève conversation avec un chatbot LLM . Chaque personne a partagé avec l’IA ce qu’elle croyait, les preuves qui, selon elle, les soutenaient et a évalué son degré de confiance dans la véracité de la théorie.
Le chatbot – entraîné sur un large éventail d’informations accessibles au public provenant de livres, de discussions en ligne et d’autres sources – a réfuté chaque affirmation avec des contre-arguments spécifiques et fondés sur des faits. Ces conversations ont réduit la confiance des gens dans leurs théories du complot, en moyenne, de 20 %.
Ces réductions ont été remarquablement persistantes, durant jusqu'à deux mois, et semblaient fonctionner sur une grande variété de théories. « Le fait que cela ait si bien fonctionné pendant si longtemps est ce qui m'a marqué », déclare Ethan Porter, politologue et chercheur en désinformation à l'université George Washington qui n'a pas participé à l'étude.
Selon Jan-Willem Van Prooijen, si Debunkbot rencontre un tel succès, c'est en partie parce qu'il reste « très poli », alors que les conversations humaines sur des sujets similaires peuvent facilement devenir « animées et irrespectueuses ». Et alors que quelqu'un pourrait craindre que ses amis ou les membres de sa famille le jugent parce qu'il change ses croyances, il est impossible de « perdre la face » face à un modèle d'IA, ajoute-t-il.
Lorsque Thomas Costello et ses collègues ont répété leur expérience avec un chatbot qui interagissait avec les participants mais ne formulait pas de contre-arguments basés sur des faits, ils n'ont constaté aucun effet, ce qui suggère que la présentation de preuves était essentielle. « Sans faits, il ne pourrait pas faire son travail », explique Thomas Costello.
Pourtant, la rhétorique utilisée peut être essentielle à la persuasion, explique Federico Germani, chercheur en désinformation à l’Université de Zurich. Comme les étudiants en master s’entraînent sur des conversations réelles, explique-t-il, ils saisissent des stratégies rhétoriques subtiles qui rendent leurs arguments plus convaincants, même lorsqu’un message leur a demandé de s’appuyer uniquement sur des faits. « Les auteurs sous-estiment probablement le fait que, entre les lignes, l’IA est très douée pour manipuler », dit-il.
Les psychologues de l'Université du Kent, dans une déclaration commune, se demandent également si les résultats de l'étude remettent en cause l'idée répandue selon laquelle les théories du complot répondent à des besoins psychologiques non satisfaits.
Aleksandra Cichocka, Robbie Sutton et Karen Douglas affirment dans une déclaration commune que, comme les auteurs de l'étude n'ont pas mesuré directement si les participants estimaient que leurs besoins étaient satisfaits après avoir conversé avec le chatbot, il est impossible de savoir si cela a influencé leur changement d'avis.
En effet, les sujets étaient toujours assez confiants dans leurs théories même après que l'IA ait tenté de les démystifier, ce qui suggère que ces motivations sous-jacentes jouaient toujours un rôle important dans leurs croyances.
Bien qu’il soit peu probable que les théoriciens du complot s’engagent volontairement avec Debunkbot, Federico Germani et Jan-Willem Van Prooijen notent que l’IA pourrait potentiellement renforcer les réponses technologiques existantes. De nombreux sites de réseaux sociaux ont déjà mis en place des stratégies pour signaler les fausses informations potentielles, comme la fonction Community Notes sur X, et ce nouveau modèle pourrait fournir des informations supplémentaires pour les réfuter.
Les gens pourraient également utiliser des chatbots pour vérifier rapidement et minutieusement les nouvelles affirmations qu’ils ont entendues, cultivant ainsi un niveau sain de scepticisme et réduisant le risque de tomber dans le piège de la désinformation à l’avenir, note Thomas Costello. « On peut presque considérer ces chatbots comme une forme d’hygiène épistémique », explique-t-il, « comme se brosser les dents, mais pour l’esprit. »