Les policiers affirment que des IA hallucinantes sont prêtes à rédiger des rapports de police susceptibles d'envoyer des personnes en prison
infohightech ·
« Draft One » ou « Première ébauche »
Partout aux États-Unis, les policiers adoptent des rapports de police rédigés par l'IA - et selon l'Associated Press, les experts tirent la sonnette d'alarme.
L'outil d'IA, appelé « Draft One », a été annoncé par la société Axon, spécialisée dans les technologies policières, en avril dernier. Axon - qui fabrique également des tasers et d'autres armes - affirme que le programme d'IA utilise le modèle de langage large GPT-4 d'OpenAI pour générer des rapports de police à partir des enregistrements des caméras corporelles des policiers, et l'a présenté comme un stimulant de la productivité qui peut réduire les heures de travail administratif des agents.
« Si un policier passe la moitié de sa journée à rédiger des rapports et que nous pouvons diviser ce temps par deux », a déclaré Rick Smith, PDG d'Axon, à Forbes à l'époque, “nous avons la possibilité de libérer 25 % du temps d'un policier pour qu'il puisse reprendre ses activités de police”.
Mais en ce qui concerne la paperasserie, les rapports de police sont plus sensibles que votre courriel moyen, et l'IA générative est une technologie sujette à ce que les acteurs du secteur appellent « hallucination » - en bref, un terme fourre-tout pour les erreurs courantes telles que les faits inventés ou les informations incorrectes que l'on trouve souvent dans les textes synthétiques.
Malgré cela, les services de police américains d'États tels que le Colorado, l'Indiana et l'Oklahoma commencent à tâter le terrain avec Draft One, certains services autorisant même les agents à utiliser l'outil pour tout type d'affaire, par opposition aux seuls rapports d'incidents mineurs. Sans surprise, les experts s'inquiètent des conséquences. Après tout, un rapport de police joue un rôle fondamental dans les processus d'enquête et de justice ; est-il judicieux, voire éthique, de l'externaliser ?
« Je crains que l'automatisation et la facilité de la technologie », a déclaré à l'AP Andrew Ferguson, professeur de droit à l'American University, qui a rédigé la première revue juridique sur les rapports de police générés par l'IA, “n'incitent les officiers de police à être moins prudents dans leur rédaction”.
Boutons et cadrans
Axon, pour sa part, a défendu l'efficacité de son outil de rédaction, Noah Spitzer-Williams, responsable des produits d'IA de la société, ayant déclaré à l'AP qu'ils avaient « accès à plus de boutons et de cadrans » que « l'utilisateur moyen de ChatGPT ». Il a ajouté qu'Axon avait baissé le « bouton de créativité » de GPT-4, par exemple, ce qui, selon lui, limite le potentiel de Draft One à « embellir ou halluciner » comme le fait ChatGPT.
Les cadrans et les boutons mis à part, ce type d'automatisation soulève toujours des questions juridiques et éthiques. Certes, comme les machines, les humains commettent des erreurs ; ils ont aussi certainement des préjugés.
Mais l'efficacité des services de police repose sur l'humanité, et lorsque l'on commence à en réduire des pans entiers à l'aide d'outils automatisés, il convient d'engager un débat public sur ce qui risque d'être perdu au cours du processus. Il s'agit notamment de la vie des gens, dont beaucoup ont déjà subi des dommages terribles à la suite de l'introduction de programmes d'IA pas encore prêts dans les enquêtes des forces de l'ordre.
« La question en suspens », écrit Andrew Ferguson dans son étude publiée le mois dernier, “est de savoir comment la confiance dans les soupçons générés par l'IA va fausser les fondements d'un système juridique dépendant de l'humble rapport de police”.