La majorité des services de police qui ont répondu aux questions posées par AlgorithmWatch ont déclaré qu’ils utilisaient ou prévoyaient d’utiliser la reconnaissance faciale. Les cas d’utilisation varient considérablement d’un pays à l’autre, mais presque tous ont en commun leur manque de transparence.
Les services de police tentent depuis longtemps d’acquérir, de structurer et de stocker des données sur les populations qu’ils surveillent. Le Français Alphonse Bertillon a été le pionnier de l’utilisation de l’anthropométrie par la police dans les années 1870, en créant une collection de dizaines de milliers de cartes contenant les mesures des sans-abri (que l’on croit plus susceptibles de commettre des crimes), dont la célèbre photo de tasse. Son travail a été le fondement sur lequel la biométrie s’est développée au cours du 20e siècle.
Les projets en cours ont largement dépassé ce qu’Alphonse Bertillon aurait pu imaginer. La reconnaissance faciale est utilisée pour retrouver des enfants disparus et pour repérer les supporters violents dans les stades de football. A Lyon, en France, un homme a été pris en flagrant délit de vol de voiture par une caméra de vidéosurveillance en octobre dernier. Son visage correspond à une photo dans une base de données. Il a ensuite été arrêté et condamné à un an et demi de prison.
Sur les 25 États membres de l’Union européenne examinés par AlgorithmWatch, au moins dix ont une force de police qui utilise la reconnaissance faciale. Quatre projets d’introduction dans les années à venir. Seuls deux pays, l’Espagne et la Belgique, ne le permettent pas encore. Cinq services de police n’ont pas encore répondu à nos demandes.
Prêt au lancement
A Courtrai, en Belgique, et à Marbella, en Espagne, la police locale a déployé une technologie de » reconnaissance corporelle « . Ces systèmes utilisent le style de marche ou les vêtements des individus pour les suivre. Les deux systèmes pourraient reconnaître les visages, mais la fonction est désactivée pour l’instant, en attendant une autorisation légale pour l’activer.
La reconnaissance faciale est surtout utilisée dans les enquêtes criminelles, comme dans le cas du vol de voitures à Lyon. La reconnaissance automatisée et en temps réel des visages se répand également. Dans plusieurs pays, il est utilisé autour des stades de football pour trouver des gens qui ont été mis sur des listes de supporters violents. En Irlande, il est couramment utilisé pour vérifier les demandes d’aide sociale.
La technologie soulevait des préoccupations en matière de protection de la vie privée qui sont bien couvertes par des organisations axées sur la protection de la vie privée, comme Privacy International ou Bits of Freedom. La reconnaissance des visages permet également de prendre des décisions automatisées qui ne sont pas sans problèmes.
Faux positifs
Même si la reconnaissance faciale peut correspondre à un visage avec une précision de 99 %, le nombre de visages disponibles dans les bases de données de la police rend les faux positifs inévitables. (Le taux d’erreur de 1 % signifie que si 10 000 personnes qui ne sont pas recherchées par la police font l’objet d’une reconnaissance faciale, 100 seront identifiées comme étant recherchées).
Aux Pays-Bas, la police a accès à une base de données d’images de 1,3 million de personnes, dont beaucoup n’ont jamais été accusées d’un crime. Une enquête de Vice a révélé qu’en 2017, 93 suspects ont été « apparentés » à des personnes enregistrées dans cette base de données.
On ne sait pas combien de ces correspondances étaient faussement positives. À Londres, un test effectué en 2018 a donné 104 résultats, dont seulement deux étaient vraiment positifs. A Buenos Aires, en Argentine, la reconnaissance faciale dans le réseau de métro de la ville a donné lieu à 1227 alertes au cours du deuxième trimestre de l’année, dont 226 étaient de vrais positifs. Toutefois, certaines arrestations étaient basées sur de fausses données. Une personne a été arrêtée sur la base d’une décision de justice de 2004. L’affaire a été classée, mais quelqu’un a oublié d’annuler le mandat d’arrêt. Une autre personne a été arrêtée parce qu’une coquille dans le mandat correspondait à son numéro d’identification.
Boîtes noires
Dans le cas du voleur de voiture de Lyon, l’avocat de la défense a affirmé que les preuves de reconnaissance faciale étaient irrecevables parce que l’algorithme utilisé pour la correspondance était inconnu. Sa demande a été rejetée, mais tous les systèmes de reconnaissance faciale utilisés en Europe sont, en effet, des boîtes noires.
L’opacité est propice aux abus. Une enquête menée aux États-Unis et publiée en mai dernier a montré que, lorsqu’aucune correspondance n’a été trouvée, certains policiers ont introduit les visages de personnages célèbres (un acteur qui ressemble au suspect, par exemple) dans l’algorithme de reconnaissance faciale à la place de la photo du suspect.
Certains services de police ont divulgué le nom des entreprises qui fournissent leur logiciel de reconnaissance faciale, mais d’autres, comme les Finlandais et les Croates, le considèrent comme une « information classifiée ». Un porte-parole de la police lituanienne a même refusé de dire s’ils utilisaient la reconnaissance faciale.
Cette revue par AlgorithmWatch n’est pas exhaustive. De nombreux pays de l’UE ont plus d’une force de police, qui peut avoir des pratiques différentes. Il montre que la reconnaissance faciale est largement utilisée dans différents contextes, avec peu ou pas de transparence. Cela montre aussi qu’un registre de tous les processus décisionnels automatisés est grandement nécessaire.
https://algorithmwatch.org/en/story/face-recognition-police-europe/
https://www.flawedfacedata.com/
https://www.lesechos.fr/tech-medias/intelligence-artificielle/comment-la-reconnaissance-faciale-sinstalle-en-france-1140171 (en ce qui concerne la France)
