L'IA de Meta affirme que Trump n'a pas été abattu
infohightech ·
Le propriétaire de Facebook, Meta, a dû répondre à des questions très gênantes après que son assistant IA a nié que l'ancien président Donald Trump avait été abattu , même s'il avait bel et bien été blessé par un homme armé plus tôt ce mois-ci - des affirmations bizarres et chargées de conspirations qui mettent en évidence les lacunes flagrantes de la technologie, même avec les ressources de l'une des entreprises technologiques les plus puissantes au monde derrière elle.
C'est particulièrement frappant, étant donné que le PDG de Meta, Mark Zuckerberg, a qualifié la réaction immédiate de Trump après avoir été abattu de « dure à cuire » et inspirante, contredisant le chatbot menteur de son entreprise.
Dans un article de blog publié mardi, le directeur mondial de la politique de Meta, Joel Kaplan, a clairement imputé la responsabilité à la tendance de l'IA à « halluciner », un synonyme pratique et évasif de conneries .
« Ces types de réponses sont appelées hallucinations, un problème que nous observons dans tous les systèmes d'IA générative et qui constitue un défi permanent pour la manière dont l'IA gère les événements en temps réel à l'avenir », a écrit Joel Kaplan. « Comme tous les systèmes d'IA générative, les modèles peuvent renvoyer des résultats inexacts ou inappropriés, et nous continuerons à résoudre ces problèmes et à améliorer ces fonctionnalités à mesure qu'ils évoluent et que de plus en plus de personnes partagent leurs commentaires. »
Mais il reste à voir combien de temps encore les entreprises d'IA pourront utiliser des « hallucinations » comme excuse pour leurs systèmes d'IA carrément mensongers. Malgré tous les efforts des géants de la technologie, leurs produits d'IA tant vantés continuent de déformer la vérité avec un degré de confiance étonnant.
L’incident met également en évidence les difficultés rencontrées par les entreprises d’IA avec le contenu généré par l’IA lors d’une élection présidentielle chaotique et alimentée par la désinformation.
Après une vague de critiques, Meta a choisi de faire taire son chatbot IA.
« Plutôt que de laisser Meta AI donner des informations erronées sur la tentative d’assassinat, nous l’avons programmée pour qu’elle ne réponde pas aux questions à ce sujet après coup – et qu’elle donne plutôt une réponse générique expliquant qu’elle ne pouvait fournir aucune information », souligne Joel Kaplan. « C’est pourquoi certaines personnes ont signalé que notre IA refusait de parler de l’événement. »
Il a également déclaré que la société avait « rencontré un problème lié à la circulation d'une photo trafiquée de l'ancien président Trump avec le poing en l'air, ce qui donnait l'impression que les agents des services secrets souriaient ».
« Étant donné que la photo a été modifiée, une étiquette de vérification des faits a été initialement et correctement appliquée », a-t-il ajouté.
Malheureusement, la technologie de l'entreprise n'a pas réussi à faire la distinction entre les photos réelles et celles non falsifiées peu de temps après - une lacune potentiellement dangereuse, compte tenu de la prévalence de la désinformation déjà diffusée sur les réseaux sociaux.
« Étant donné les similitudes entre la photo trafiquée et l'image originale — qui ne sont que subtilement (bien qu'importantes) différentes — nos systèmes ont également appliqué de manière incorrecte cette vérification des faits à la vraie photo », précise Joel Kaplan.
Meta n'a pas été le seul à rencontrer de sérieuses difficultés pour faire réagir son IA à des informations qui évoluent rapidement. Google a également dû limiter les dégâts, en niant avoir « censuré » les informations sur l'assassinat dans sa fonction « Autocomplete ».
« Dans l'ensemble, ces types de systèmes de prédiction et d'étiquetage sont algorithmiques », a tweeté l'équipe de communication de Google. « Bien que nos systèmes fonctionnent très bien la plupart du temps, vous pouvez trouver des prédictions qui peuvent être inattendues ou imparfaites, et des bugs peuvent survenir. »
Google a déjà eu du mal avec sa fonction de recherche IA encore « expérimentale » appelée « AI Overview » à produire un torrent de mensonges énoncés avec assurance en réponse aux requêtes des utilisateurs .
Pendant ce temps, Trump a profité de l’occasion pour s’en prendre à l’industrie technologique.
« Facebook vient d'admettre qu'il a censuré à tort la photo de la "tentative d'assassinat" de Trump et s'est fait prendre », a-t-il écrit dans un message décousu caractéristique de Truth Social . « Même chose pour Google. Ils ont rendu pratiquement impossible la recherche de photos ou de quoi que ce soit concernant cet acte odieux. »
Bien qu'il y ait peu de preuves suggérant que Google et Meta tentent de « TRUQUER LES ÉLECTIONS », selon Trump, les deux sociétés n'ont clairement pas réussi à démontrer que leurs fonctionnalités d'IA sont prêtes à être utilisées.
Les commentaires de Joel Kaplan ne devraient pas surprendre. Depuis un certain temps déjà, nous entendons les entreprises d'intelligence artificielle utiliser des « hallucinations » pour justifier le fait que leurs chatbots inventent des mensonges.
Mais en font-ils assez ? Est-ce le meilleur moyen pour Meta de répondre à un cycle d’actualité en évolution rapide ?
Nous avons déjà entendu des responsables technologiques admettre qu'il y a une chance que le problème des « hallucinations » ne soit jamais résolu.
Dans une interview accordée à The Verge plus tôt cette année, le PDG de Google, Sundar Pichai, a déclaré que ces mensonges pourraient être une « caractéristique inhérente » des grands modèles linguistiques.
Le PDG d'Apple, Tim Cook, a également déclaré qu'il ne « prétendrait jamais » que l'IA de son entreprise ne pourrait pas inventer des mensonges avec une certitude « à 100 % » dans une interview au Washington Post le mois dernier.
Mais le temps presse. La course à la présidence est déjà bien lancée et nous avons déjà vu circuler en ligne de nombreuses fausses informations générées par l'IA , des « deepfakes » aux images truquées.
Et à mesure que la technologie continue de s’améliorer, les frontières entre ce qui est réel et ce qui est faux continueront de s’estomper, ce qui rendra encore plus difficile pour des sociétés comme Meta et AI de ralentir la diffusion de la désinformation sur leurs plateformes.