Erreurs d’IA : mains à six doigts, deux soleils et Jésus-Christ sur une planche de surf dans une mer agitée
Les chatbots générateurs d’images hallucinent, inventent et passent à côté des nuances culturelles. Développer les termes appropriés pour décrire leurs erreurs contribuera à mieux les former.
Alors qu’elle donnait un cours Photoshop dans un camp d’été pour enfants, Gursimran Vasir, étudiante de premier cycle à l’Université Stevens dans le New-Jersey aux Etats-Unis, a remarqué une chose étrange. Lorsque les enfants cherchaient des images à l’aide de l’IA de Photoshop en saisissant des instructions textuelles, ils n’obtenaient pas toujours le résultat escompté. De fait, de nombreuses images apparaissaient biaisées, incorrectes ou biaisées. Gursimran Vasir a elle-même rencontré des problèmes similaires. Par exemple, lorsqu’elle demandait à l’IA l’image d’une « personne faisant le ménage », elle obtenait l’image d’une femme faisant le ménage. Lorsqu’elle demandait l’image d’une « femme faisant le ménage », l’IA générait l’image d’une femme blanche, souvent en train de nettoyer un plan de travail avec une éponge ou un vaporisateur.
« Beaucoup d’enfants rencontraient des difficultés avec l’IA, car elle ne leur donnait pas exactement ce qu’ils souhaitaient », explique Vasir. « Mais ils ne savaient pas quel langage utiliser pour exprimer leurs difficultés face à la situation. »
Elle a réalisé qu’il n’existait pas de langage standardisé pour décrire les erreurs et les biais de l’IA, et a pensé que la création d’un tel langage serait bénéfique pour les futurs systèmes d’IA. Elle a proposé de commencer à développer un tel langage à Jina Huh-Yoo, professeure agrégée à Stevens et chercheuse en interaction homme-machine (IHM), qui étudie les technologies émergentes, comme l’IA, au service de la santé et du bien-être.
Le résultat a été une étude intitulée « Characterizing the Flaws of Image-Based AI-Generated Content » ou « Caractérisation des failles du contenu généré par l’IA basé sur l’image » , présentée comme un travail en cours lors de la conférence ACM CHI sur les facteurs humains dans les systèmes informatiques, une conférence internationale de premier plan en IHM, le 26 avril 2025.
Pour son étude, Vasir a collecté et analysé 482 publications Reddit dans lesquelles les utilisateurs décrivaient diverses erreurs d’imagerie générées par l’IA. Elle a classé ses conclusions en quatre catégories : surréalisme de l’IA, biais culturel, sophisme logique et désinformation.
Le surréalisme de l’IA, explique-t-elle, se produit lorsqu’un élément de l’image apparaît comme irréel, créant un sentiment de malaise, par exemple une apparence trop lisse ou des couleurs trop parfaites. Le biais culturel de l’IA est apparu clairement lorsqu’un utilisateur a demandé à l’outil de représenter Jésus-Christ marchant sur une mer agitée et a reçu une image du Christ sur une planche de surf. Demander l’image d’une « personne faisant le ménage » et recevoir systématiquement des images d’une femme faisant le ménage, plutôt qu’un résultat plus diversifié en termes de genre, est un autre exemple de biais culturel, explique Vasir.
La désinformation concerne, par exemple, la représentation erronée d’une ville demandée par l’utilisateur, générant des images qui ne lui ressemblent pas du tout. Enfin, l’erreur logique survient lorsque l’algorithme renvoie un résultat qui ne reflète pas la compréhension standard. « Imaginons que vous demandiez l’image d’une main et que vous en receviez une avec six doigts », explique Vasir. « Ou que vous demandiez l’image d’un paysage et que vous en receviez une avec deux soleils. »
Huh-Yoo souligne que cette étude explore un sujet jusqu’alors peu étudié : les erreurs d’IA dans les images par rapport aux résultats textuels. « Je pense qu’il s’agit d’un travail unique et novateur qui enrichit les discussions sur les biais de l’IA, car les discussions existantes portaient principalement sur le texte, et cet effort se concentre sur les images », déclare Huh-Yoo. Dans l’ensemble, elle se dit très impressionnée par l’importance accordée à la recherche par les étudiants de licence de Stevens et par la qualité de leurs travaux. « Gursimran a pris la direction de ce projet et a élaboré elle-même les questions de recherche et les méthodes. Je l’ai simplement guidée. »
Présenté à l’ACM CHI 2025, une conférence internationale sur les facteurs humains dans les systèmes informatiques, à Yokohama, au Japon, ce travail a suscité un vif intérêt auprès des acteurs du secteur, explique Huh-Yoo. « C’est un sujet brûlant dans le secteur du design et du graphisme », explique-t-elle, car ces secteurs sont confrontés à des défis similaires avec le contenu généré par l’IA.
Avec l’adoption croissante de l’IA, que ce soit pour le marketing, l’éducation, les voyages ou tout autre usage, les utilisateurs s’attendront à recevoir des informations et des images exactes et impartiales, souligne Vasir. Disposer d’un vocabulaire et d’un langage adaptés aux problèmes actuels de l’IA permettra de l’entraîner à générer des images pertinentes. « Les développeurs doivent aux utilisateurs une technologie adéquate qui fonctionne comme prévu », déclare Vasir. « Lorsque nos outils ne le font pas, cela ouvre la voie à des utilisations abusives. Créer un vocabulaire approprié pour instaurer un dialogue entre l’utilisateur et le développeur est la première étape pour résoudre ces problèmes. »