Des prisons américaines utilisent l'IA pour prédire quand les détenus commettront de futurs crimes.
La rédaction ·
Cela permettra d’ «optimiser le placement des personnes incarcérées ».
C'est ce que rapporte la chaîne Fox2 de Détroit , selon laquelle le département correctionnel du Michigan poursuit le développement d'un algorithme de catégorisation des détenus qui répartira les personnes dans différents niveaux d'hébergement.
Au Michigan, les détenus sont répartis en cinq catégories d'hébergement selon leur niveau de sécurité. Auparavant, cette évaluation était effectuée par un comité de personnel nommé par le directeur de chaque établissement. Désormais, il semblerait que l'État souhaite externaliser cette décision – ou du moins s'appuyer fortement sur l'expertise de – une entreprise technologique à but non lucratif appelée Recidiviz.
Recidiviz a débuté comme un projet d'organisation des données chez Google, visant à « découvrir comment la technologie pourrait standardiser les données de la justice pénale et améliorer le système à l'échelle nationale ». Sa plateforme logicielle intégrant l'IA permettrait notamment d'identifier les personnes admissibles aux programmes offerts par l'État, à la reclassification ou à la libération, et de coordonner l'accès à des ressources telles que le logement transitoire et l'emploi.
Dans un communiqué de presse , le MDOC a annoncé que le logiciel Recidiviz sera utilisé pour « optimiser le placement des personnes incarcérées », à commencer par un programme pilote dans plusieurs établissements pénitentiaires pour hommes dès décembre. L'agence d'État précise que cet outil d'intelligence artificielle devrait « améliorer d'environ 30 % la capacité du MDOC à prédire avec plus de précision le risque de violence future chez les personnes incarcérées », sans toutefois expliquer comment l'État est parvenu à ce chiffre approximatif.
Pour les personnes incarcérées, l'affectation des logements est extrêmement importante, car elle détermine les programmes et les ressources auxquels elles auront droit, ainsi que le type de population avec laquelle elles seront logées pendant toute la durée de leur peine.
Abstraction faite des justifications de l'État, le partenariat MDOC-Recividiz laisse d'importantes questions sans réponse.
Le type de données collectées, par exemple, aura une incidence considérable sur la précision du système d'IA. Une enquête de ProPublica menée en Louisiane sur un programme d'analyse des risques similaire a révélé que les données utilisées pour classer les personnes incarcérées présentaient des biais raciaux et socio-économiques inhérents.
De ce fait, le système carcéral de la Louisiane est devenu encore plus cruel et néfaste pour ceux qui s'efforcent sincèrement de se réinsérer. Dans un cas rapporté par ProPublica , un homme de 70 ans, aveugle et en fauteuil roulant, a été classé comme présentant un « risque modéré » de récidive malgré un casier judiciaire vierge – une classification qui entraîne la perte automatique de son admissibilité à la libération conditionnelle.
Bien que le système du Michigan soit axé sur l'attribution des logements plutôt que sur les décisions de libération conditionnelle, il semble fort improbable qu'un logiciel à lui seul puisse résoudre la crise correctionnelle que connaît actuellement l'État — et si l'adoption de l'IA par la Louisiane est un exemple à suivre, cela pourrait très bien aggraver considérablement la situation.
https://futurism.com/artificial-intelligence/prisons-ai-prediction-incarceration-algorithm