Skip to main content

10 Juin, 2020

IBM va se retirer du marché de la reconnaissance faciale en raison des craintes liées au profilage

IBM va se retirer du marché de la reconnaissance faciale en raison des craintes liées au profilage

Big Blue s’inquiète du fait que cette technologie soit utilisée pour promouvoir la discrimination et l’injustice raciale. La technologie de reconnaissance faciale pose problème. IBM dit que c’en est assez.

IBM a annoncé lundi qu’elle se retirait du marché de la reconnaissance faciale à usage général. Elle craint que cette technologie ne soit utilisée pour promouvoir la discrimination et l’injustice raciale.

« IBM s’oppose fermement et ne tolérera pas l’utilisation de toute technologie, y compris la technologie de reconnaissance faciale proposée par d’autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits de l’homme et des libertés fondamentales, ou tout autre objectif qui ne serait pas conforme à nos valeurs et principes de confiance et de transparence », a déclaré le PDG Arvind Krishna dans une lettre adressée lundi aux dirigeants du Congrès Américain.

« Nous pensons que le moment est venu d’entamer un dialogue national sur la question de savoir si et comment la technologie de reconnaissance faciale doit être utilisée par les services de police nationaux », a déclaré la société.

La reconnaissance faciale a subi des réactions négatives de la part des défenseurs de la vie privée et des législateurs, et une poignée de villes ont interdit l’utilisation de cette technologie par les municipalités. L’année dernière, les législateurs démocrates ont proposé d’interdire aux organismes de logements sociaux d’utiliser une technologie comme la reconnaissance faciale. Pourtant, la reconnaissance faciale est en passe de devenir omniprésente dans les aéroports et les centres commerciaux, et certaines entreprises la vendent aux services de police.

Les critiques citent des études montrant que cette technologie a un faible taux de précision pour les femmes et les minorités. Lorsqu’elle fonctionne correctement, ajoutent-ils, elle a le potentiel pour devenir une forme de surveillance inéluctable et invasive. Des entreprises telles que Clearview AI, qui dispose d’une technologie permettant aux utilisateurs d’identifier les personnes en comparant leur visage à des photos récupérées sur Internet, ont fait part de leurs inquiétudes quant à la puissance de cette technologie.

IBM a été un fervent partisan de la réglementation de la reconnaissance faciale, affirmant que les utilisations potentiellement nuisibles pourraient être limitées tout en permettant l’innovation. IBM a suscité une controverse en mars en utilisant des photos Flickr partagées sous licence Creative Commons dans le cadre d’une collection destinée à former les systèmes de reconnaissance faciale de l’IA.

IBM n’a pas fait de commentaire supplémentaire.

https://www.ibm.com/blogs/policy/facial-recognition-susset-racial-justice-reforms/

https://www.cnet.com/news/ibm-to-withdraw-from-the-facial-recognition-market/