Les forces de l'ordre apprennent à utiliser l'IA de manière plus éthique

Conçu en collaboration avec l’ONU et Interpol, le « Responsible AI Toolkit » a déjà été utilisé pour former des milliers d’officiers et des dizaines de chefs de police à travers le monde.

L'utilisation de l'IA par la police suscite des inquiétudes partout aux États-Unis. Cansu Canca affirme qu'il est essentiel de former la police à son utilisation éthique.

Alors que de plus en plus de secteurs expérimentent l'intelligence artificielle, les forces de l'ordre sont l'un des secteurs qui ont adopté le plus rapidement cette nouvelle technologie. Cela a entraîné des difficultés de croissance, allant des fausses arrestations aux inquiétudes concernant la reconnaissance faciale .

Cependant, un nouvel outil de formation est désormais utilisé par les forces de l’ordre du monde entier pour garantir que les agents comprennent cette technologie et l’utilisent de manière plus éthique.

S'appuyant en grande partie sur les travaux de Cansu Canca, directrice des pratiques d'IA responsable à l'Institut d'IA expérientielle de l'Université Northeastern aux Etats-Unis, et conçue en collaboration avec les Nations Unies et Interpol, la « Responsible AI Toolkit » ou « boîte à outils pour une IA responsable » est l'un des premiers programmes de formation complets destinés à la police et exclusivement axés sur l'IA. Selon Cansu Canca, une question simple est au cœur de cette boîte à outils.

« La première chose que nous commençons par demander à l'organisation, lorsqu'elle envisage de développer ou de déployer l'IA, est si elle en a besoin », explique Cansu Canca. « Car chaque nouvel outil ajoute un risque. Dans le cas des services de police, l'objectif est d'accroître la sécurité publique et de réduire la criminalité, ce qui nécessite des ressources importantes. Il existe un réel besoin d'efficacité et d'amélioration, et l'IA est très prometteuse pour aider les forces de l'ordre, à condition de pouvoir atténuer les risques. »

Des milliers d'agents ont déjà suivi une formation à l'aide de la boîte à outils et, cette année, Cansu Canca a dirigé une session de formation pour 60 chefs de police aux États-Unis. L'ONU et Interpol déploieront bientôt également des formations supplémentaires au niveau exécutif dans cinq pays sur trois continents.

Les utilisations de l’IA comme la reconnaissance faciale ont attiré le plus d’attention, mais la police utilise également l’IA pour des choses plus simples comme la génération de transcriptions vidéo en texte pour les images de caméras corporelles, le déchiffrement des numéros de plaques d’immatriculation dans des vidéos floues et même la détermination des horaires de patrouille. 

Toutes ces utilisations, aussi mineures qu'elles puissent paraître, comportent des risques éthiques inhérents si les agences ne comprennent pas les limites de l'IA et où elle est le mieux utilisée, souligne Cansu Canca.

Comprendre quand utiliser l'IA – et quand ne pas l'utiliser – est tout aussi important que savoir comment l'utiliser, explique Cansu Canca, directrice des pratiques responsables en IA à l'Institut d'IA expérientielle de l'Université Northeastern. Photo : Matthew Modoono/Université Northeastern

« Le plus important est de s’assurer qu’à chaque fois que nous créons un outil d’IA pour les forces de l’ordre, nous ayons une compréhension aussi claire que possible de la probabilité que cet outil échoue, des endroits où il pourrait échouer et de la manière dont nous pouvons nous assurer que les services de police savent qu’il pourrait échouer de ces manières particulières », assure Cansu Canca.

Même si une agence affirme avoir besoin ou vouloir utiliser l'IA, la question la plus importante est de savoir si elle est prête à la déployer. La boîte à outils est conçue pour aider les forces de l'ordre à réfléchir à la solution la mieux adaptée à leur situation. Un service peut être prêt à développer son propre outil d'IA, à l'instar d'un centre de lutte contre la criminalité en temps réel. Cependant, la plupart des services prêts à adopter cette technologie sont plus susceptibles de se la procurer auprès d'un fournisseur tiers, explique Cansu Canca. 

Dans le même temps, il est important que les agences reconnaissent également quand elles ne sont pas encore prêtes à utiliser l’IA.

« Si vous n'êtes pas prêt — si vous ne pouvez pas assurer la sécurité des données, si vous ne pouvez pas garantir des niveaux adéquats de confidentialité, si vous ne pouvez pas vérifier les biais, en gros si votre agence n'est pas en mesure d'évaluer et de surveiller la technologie pour ses risques et d'atténuer ces risques — alors vous ne devriez probablement pas être trop ambitieux pour l'instant et plutôt commencer à développer ces muscles éthiques à mesure que vous vous engagez lentement avec les systèmes d'IA », lance Cansu Canca.

Cette dernière souligne que la « boîte à outils » n'est pas universelle. Chaque secteur, qu'il s'agisse de la police ou de l'éducation, possède son propre cadre éthique, qui requiert une approche légèrement différente, sensible aux enjeux éthiques spécifiques de ce secteur.

« Le maintien de l’ordre n’est pas détaché de l’éthique » et comporte son propre ensemble de questions et de critiques éthiques, explique Cansu Canca, y compris « une très longue lignée de préjugés historiques ».

Comprendre ces biais est essentiel lors de la mise en œuvre d’outils susceptibles de recréer ces mêmes biais , créant ainsi un cercle vicieux entre technologie et pratiques policières.

« Certains districts ont historiquement été sur-policiers. Si l'on examine simplement ces données, on constate qu'il est probable que ces zones soient à nouveau sur-policières », précise Cansu Canca. « La question devient alors : "Si nous comprenons que c'est le cas, comment pouvons-nous atténuer le risque de discrimination, comment pouvons-nous compléter les données ou garantir que l'outil est utilisé aux bonnes fins ?" »

L'objectif de cette boîte à outils est d'éviter ces pièges éthiques en sensibilisant les agents à l'importance des humains dans l'IA. Un système d'IA peut analyser une ville et suggérer des zones nécessitant une assistance accrue en fonction des données sur la criminalité, mais il appartient aux humains de décider si un quartier spécifique a besoin de davantage de patrouilleurs, de travailleurs sociaux ou de professionnels de la santé mentale.

« La police n'est pas formée pour poser les bonnes questions sur la technologie et l'éthique », déclare Cansu Canca. « Nous devons être là pour les guider et inciter les fournisseurs de technologies à créer de meilleures technologies. »

https://news.northeastern.edu/2025/07/15/ai-law-enforcement-toolkit