Skip to main content

10 Jan, 2024

Le service « Immigration and Customs Enforcement » aux Etats-Unis utilise une IA de traduction défectueuse qui ne peut pas comprendre les détenus

Le service « Immigration and Customs Enforcement » aux Etats-Unis utilise une IA de traduction défectueuse qui ne peut pas comprendre les détenus

Lost in Translation: Une mauvaise IA a un prix – et dans le cas du système d’immigration américain, ce prix pourrait coûter aux gens leur liberté.

Comme  le rapporte The Guardian , les agents de l’immigration ont reçu pour instruction d’utiliser des programmes gratuits comme Google Translate ou Microsoft Translator pour communiquer avec les personnes qu’ils détiennent, ce qui peut donner lieu à des informations inexactes ou confuses fournies aux détenus ou inscrites dans leurs demandes.

Une agence, Customs and Border Patrol, a créé sa propre application de traduction, connue sous le nom de « CBP One », mais comme le note le rapport, elle ne peut traduire que vers et depuis une poignée de langues, et même dans les langues qu’elle reconnaît, il existe les erreurs.

Le rapport cite un certain nombre d’exemples de cet effet, depuis une page de FAQ transformée en une chaîne de lettres lorsqu’on demande à l’application de traduire en créole haïtien jusqu’aux demandeurs d’asile qui se voient refuser l’asile en raison de petites divergences grammaticales.

Dans l’un de ces cas raconté par Ariel Koren, fondateur du réseau d’interprètes d’urgence Respond Crisis Translation, une demandeuse d’asile qui tentait de fuir son père violent a décrit l’homme en espagnol familier comme « mi jefe », ce que l’application de traduction a pris littéralement. pour signifier son « patron ». Sa demande d’asile a donc été refusée.

« Non seulement les demandes d’asile doivent être traduites, mais le gouvernement utilisera fréquemment de petites subtilités linguistiques pour justifier l’expulsion de quelqu’un », a déclaré Ariel Koren, qui a déjà travaillé chez Google Translate, au Guardian . « La candidature doit être absolument parfaite. »

Dialectique

Si les choses vont si mal pour les hispanophones, on peut imaginer qu’elles sont encore pires pour ceux qui parlent des dialectes moins connus. En effet, comme l’a déclaré Respond Crisis Translation au Guardian, il existe souvent des problèmes entre les agences et les applications de traduction pour les réfugiés afghans qui parlent le dari, l’un des deux principaux dialectes de la région. Google Translate, note le rapport, ne reconnaît pas du tout le dari.

« Les langues afghanes ne disposent pas de beaucoup de ressources en termes de technologie, en particulier les dialectes locaux », a déclaré au journal britannique Uma Mirkhail, responsable des langues afghanes au RCT. « Il est presque impossible pour une machine de transmettre le même message qu’un interprète professionnel connaissant le pays d’origine, y compris le contexte culturel. »

Avec l’abondance de préjugés systémiques contre les non-anglophones au sein du gouvernement et de l’apprentissage automatique , il est déchirant mais pas surprenant que les outils destinés à aider les agents d’immigration et les personnes dont ils ont la charge à communiquer finissent par causer des dommages et des maux de tête.

« Les outils de traduction de l’IA ne devraient jamais être utilisés sans supervision », a déclaré Koren, le fondateur du RCT. « Ils ne devraient jamais être utilisés pour remplacer les traducteurs et les interprètes et ils ne devraient pas être utilisés dans des situations à enjeux élevés – pas dans aucune langue et surtout pas pour les langues marginalisées. »

https://futurism.com/the-byte/immigration-ai-services

https://www.theguardian.com/us-news/2023/sep/07/asylum-seekers-ai-translation-apps