Minority Report: Le Royaume-Uni crée un outil de « prédiction de meurtre » pour identifier les personnes les plus susceptibles de tuer
infohightech ·
Le gouvernement britannique développe un programme de « prédiction de meurtre » qui, espère-t-il, pourra utiliser les données personnelles des personnes connues des autorités pour identifier les personnes les plus susceptibles de devenir des tueurs.
Les chercheurs utiliseraient des algorithmes pour analyser les informations de milliers de personnes, y compris des victimes de crimes, afin d’identifier celles qui présentent le plus grand risque de commettre des infractions violentes graves.
Initialement appelé « projet de prédiction des homicides » (Homicide Prediction Project), ce projet a été rebaptisé « partage de données pour améliorer l'évaluation des risques » (sharing data to improve risk assessment). Le ministère de la Justice espère que le projet contribuera à renforcer la sécurité publique, mais les militants l'ont qualifié de « glaçant et dystopique ».
L'existence du projet a été découverte par le groupe de pression Statewatch, et certains de ses rouages ont été dévoilés grâce à des documents obtenus grâce à des demandes d'accès à l'information .
Statewatch affirme que les données de personnes non condamnées seront utilisées dans le cadre du projet, notamment des informations personnelles sur l'automutilation et des informations relatives aux violences conjugales. Les autorités démentent fermement cette affirmation, affirmant que seules les données de personnes ayant au moins une condamnation pénale ont été utilisées.
Le gouvernement affirme que le projet n'est pour l'instant destiné qu'à la recherche, mais les militants affirment que les données utilisées pourraient biaiser les prédictions à l'encontre des minorités ethniques et des personnes pauvres.
Le ministère de la Justice affirme que le programme « examinera les caractéristiques des délinquants qui augmentent le risque de commettre un homicide » et « explorera des techniques alternatives et innovantes de science des données pour l'évaluation du risque d'homicide ».
Le projet « fournirait des preuves pour améliorer l’évaluation des risques liés aux crimes graves et contribuerait en fin de compte à protéger le public grâce à une meilleure analyse », a ajouté un porte-parole.
Le projet, commandé par le bureau du Premier ministre lorsque Rishi Sunak était au pouvoir, utilise des données sur la criminalité provenant de diverses sources officielles, notamment le service de probation et les données de la police du Grand Manchester avant 2015.
Les types d’informations traitées comprennent les noms, les dates de naissance, le sexe et l’origine ethnique, ainsi qu’un numéro qui identifie les personnes sur l’ordinateur national de la police.
L'affirmation de Statewatch selon laquelle les données des personnes innocentes et de celles qui ont demandé de l'aide à la police seront utilisées est basée sur une partie de l'accord de partage de données entre le ministère de la Justice et le GMP (Greater Manchester Police).
Une section intitulée « type de données personnelles à partager » par la police avec le gouvernement comprend différents types de condamnations pénales, mais indique également l’âge auquel une personne est apparue pour la première fois en tant que victime, y compris pour violence domestique, et l’âge qu’elle avait lorsqu’elle a eu son premier contact avec la police.
Sont également à partager – et répertoriés dans les « catégories particulières de données personnelles » – les « marqueurs de santé qui devraient avoir un pouvoir prédictif significatif », tels que les données relatives à la santé mentale, à la toxicomanie, au suicide et à la vulnérabilité, à l’automutilation, ainsi qu’au handicap.
Sofia Lyall, chercheuse chez Statewatch, a déclaré : « La tentative du ministère de la Justice de construire ce système de prédiction des meurtres est le dernier exemple effrayant et dystopique de l'intention du gouvernement de développer des systèmes dits de « prédiction » de la criminalité.
« À maintes reprises, les recherches montrent que les systèmes algorithmiques de « prédiction » de la criminalité sont intrinsèquement défectueux".
« Ce dernier modèle, qui utilise les données de notre police institutionnellement raciste et du ministère de l’Intérieur, renforcera et amplifiera la discrimination structurelle qui sous-tend le système juridique pénal."
Comme d'autres systèmes du même type, il privilégiera les communautés racialisées et à faibles revenus. Créer un outil automatisé pour identifier des individus comme des criminels violents est profondément inacceptable, et utiliser des données aussi sensibles sur la santé mentale, les addictions et le handicap est extrêmement intrusif et alarmant.
Un porte-parole du ministère de la Justice a déclaré : « Ce projet est mené à des fins de recherche uniquement. Il a été conçu à partir des données existantes détenues par le Service pénitentiaire et de probation de Sa Majesté et les forces de police sur les délinquants condamnés afin de nous aider à mieux comprendre le risque que les personnes en probation commettent des violences graves. Un rapport sera publié prochainement. »
Les responsables affirment que les services pénitentiaires et de probation utilisent déjà des outils d’évaluation des risques, et ce projet permettra de déterminer si l’ajout de nouvelles sources de données, provenant des données de la police et de la garde à vue, améliorerait l’évaluation des risques.