L’intelligence artificielle du réseau Microsoft illustre une histoire sur la chanteuse de Little Mix, Jade Thirlwall (à gauche) avec une photo de sa camarade de groupe Leigh-Anne Pinnock (à droite).
Peu après que Microsoft ait annoncé qu’elle licenciait des dizaines de journalistes dans ses divisions d’information et les remplaçait par une intelligence artificielle d’écrémage, elle s’est déjà mis dans le pétrin après un exemple clair de parti pris algorithmique racial.
L’algorithme ne fait aucun report original. Il trouve plutôt des articles sur Internet et les diffuse sur MSN. Récemment, il a confondu deux femmes de couleur du groupe Little Mix, rapporte The Guardian, en joignant une image de Leigh-Anne Pinnock à un article sur la chanteuse Jade Thirlwall.
C’est une illustration malheureuse de la persistance du racisme dans les algorithmes d’IA, qui sont notoirement mauvais pour reconnaître les personnes de couleur.
Ironie cruelle
Dans une tournure horrible et ironique, l’article que l’IA de Microsoft a si horriblement raté portait sur les brimades racistes que Jade Thirlwall a subies en tant que l’une des trois seules personnes de couleur dans son école catholique.
« Cette merde arrive à Leigh-Anne Pinnock et moi TOUT LE TEMPS que c’est devenu une blague courante », a écrit Jade Thirlwall sur Instagram à propos de la confusion. « Cela m’offense que vous ne puissiez pas différencier les deux femmes de couleur sur les quatre membres d’un groupe… FAITES MIEUX ! »
Contrôle des dommages
Un porte-parole de Microsoft a déclaré au Guardian que l’image a été remplacée dès que la société a appris l’erreur, mais n’a pas commenté le problème sous-jacent de préjugés raciaux par l’IA de sa salle de presse.
Au lieu de cela, les employés restants de MSN auraient reçu l’instruction de limiter les dégâts : Le Guardian rapporte qu’on leur a dit de surveiller le site pour tout article embarrassant sur l’incident de l’IA et de le retirer.
