Comment le plus grand rassemblement de chefs de police des États-Unis parle de l'IA
infohightech ·
Cette conférence, l'International Association of Chiefs of Police, se présente comme le plus grand rassemblement de chefs de police aux États-Unis, où les responsables de la plupart des 18 000 services de police du pays, et même de certains pays étrangers, se réunissent pour des démonstrations de produits, des discussions, des fêtes et des remises de prix.
On pouvait voir comment l'intelligence artificielle était discutée, et le message adressé aux chefs de police semblait clair comme de l'eau de roche : si votre service est lent à adopter l'intelligence artificielle, remédiez-y dès maintenant. L'avenir de la police reposera sur l'intelligence artificielle sous toutes ses formes.
Dans le hall d'exposition de l'événement, les vendeurs (plus de 600) ont donné un aperçu de l'industrie en pleine expansion des fournisseurs de technologies policières. Certains n'avaient pas grand-chose à voir avec l'IA : des stands présentaient des gilets pare-balles, des fusils et des prototypes de cybercars portant la marque de la police, tandis que d'autres exposaient de nouveaux types de gants promettant de protéger les agents contre les aiguilles lors des fouilles. Mais il suffisait de regarder où se rassemblaient les plus grandes foules pour comprendre que l'IA était la principale attraction.
Le battage médiatique s'est concentré sur trois utilisations de l'IA dans les services de police. La plus tape-à-l'œil était la réalité virtuelle, illustrée par le stand de V-Armed, qui vend des systèmes de réalité virtuelle pour la formation des policiers. Sur le sol de l'exposition, V-Armed a construit une arène équipée de lunettes de réalité virtuelle, de caméras et de capteurs, qui n'est pas sans rappeler celle que l'entreprise a récemment installée au siège de la police de Los Angeles. Les participants pouvaient enfiler les lunettes et participer à des exercices d'entraînement sur la manière de réagir à des situations de tirs actifs. De nombreux concurrents de V-Armed étaient également présents à l'exposition, vendant des systèmes qu'ils disent moins chers, plus efficaces ou plus simples à entretenir.
L'argument en faveur de la formation à la RV est qu'à long terme, elle peut être moins chère et plus attrayante que la formation avec des acteurs ou dans une salle de classe. « Si vous appréciez ce que vous faites, vous êtes plus concentré et vous mémorisez mieux que si vous regardez un PDF et hochez la tête », précise Ezra Kraus, PDG de V-Armed.
L'efficacité des systèmes de formation en RV n'a pas encore fait l'objet d'études approfondies, et ils ne peuvent pas reproduire complètement les interactions nuancées que les policiers ont dans le monde réel. L'IA n'est pas encore très performante en ce qui concerne les compétences non techniques requises pour les interactions avec le public. Au stand d'une autre entreprise, un système de RV est axé sur la formation à la désescalade, dans lequel les agents devaient calmer un personnage IA en détresse. Le système souffrait de décalage et était généralement assez maladroit - les réponses du personnage semblaient trop scénarisées et programmatiques.
Le deuxième thème abordé était l'évolution de la manière dont les services de police collectent et interprètent les données. Plutôt que d'acheter un outil de détection des coups de feu à une entreprise et un lecteur de plaques d'immatriculation ou un drone à une autre, les services de police utilisent de plus en plus des suites de capteurs, de caméras et autres, proposés par une poignée de grandes entreprises qui promettent d'intégrer les données collectées et de les rendre utiles.
Les chefs de police ont assisté à des cours sur la construction de ces systèmes, comme celui donné par Microsoft et la police de New York sur le Domain Awareness System, un réseau de lecteurs de plaques d'immatriculation, de caméras et d'autres sources de données utilisées pour suivre et surveiller la criminalité dans la ville de New York. Les foules se sont rassemblées devant les énormes stands de haute technologie d'Axon et de Flock, deux sponsors de la conférence.
Flock vend un ensemble de caméras, de lecteurs de plaques d'immatriculation et de drones, et propose une IA pour analyser les données reçues et déclencher des alertes. Ce type d'outils a fait l'objet de vives critiques de la part des groupes de défense des libertés civiles, qui les considèrent comme une atteinte à la vie privée qui n'apporte pas grand-chose au public.
Enfin, comme dans d'autres secteurs, l'IA s'attaque également à la corvée des tâches administratives et des rapports. De nombreuses entreprises présentes au salon, dont Axon, proposent des produits d'IA générative pour aider les policiers à rédiger leurs rapports. L'offre d'Axon, appelée Draft One, ingère des séquences provenant de caméras corporelles, les transcrit et crée un premier projet de rapport pour les officiers.
« Nous avons cette chose sur le corps d'un officier, et elle enregistre toutes sortes de choses intéressantes sur l'incident », souligne dit Bryan Wheeler, vice-président senior d'Axon, lors de l'exposition. « Pouvons-nous l'utiliser pour donner une longueur d'avance à l'agent ?"
À première vue, il s'agit d'une tâche de rédaction bien adaptée à l'IA, qui peut rapidement résumer des informations et rédiger des formules. Elle pourrait également permettre aux agents de gagner beaucoup de temps sur la rédaction des rapports. Mais étant donné que l'IA est sujette à des « hallucinations », il y a une vérité inévitable : même si les agents sont les auteurs finaux de leurs rapports, les services qui adoptent ce type d'outils risquent d'injecter des erreurs dans certains des documents les plus importants du système judiciaire.
« Les rapports de police sont parfois le seul compte rendu d'un incident », a écrit Andrew Ferguson, professeur de droit à l'American University, en juillet dans le premier article d'une revue de droit consacré aux graves problèmes posés par les rapports de police rédigés à l'aide de l'IA. « Comme les affaires criminelles peuvent prendre des mois ou des années avant d'aboutir à un procès, l'exactitude de ces rapports est d'une importance capitale. L'inclusion ou l'omission de certains détails peut avoir une incidence sur l'issue de l'affaire, qu'il s'agisse du montant de la caution ou du verdict."
En montrant à un agent une version générée d'un rapport de police, les outils exposent également les agents à des détails provenant des enregistrements de leur caméra corporelle avant qu'ils ne remplissent leur rapport, un document destiné à capturer la mémoire de l'agent sur l'incident. Cela pose un problème.
« La police ne montrerait certainement jamais une vidéo à un témoin oculaire avant de l'interroger sur ce qui s'est passé, car il s'agirait tout simplement d'une faute professionnelle dans le cadre d'une enquête », explique Jay Stanley, analyste politique principal au sein du projet Speech, Privacy, and Technology de l'ACLU, qui publiera bientôt un travail sur le sujet.
Un porte-parole d'Axon affirme que cette préoccupation « ne reflète pas la manière dont l'outil est censé fonctionner » et que Draft One est doté de fonctions robustes permettant de s'assurer que les agents lisent attentivement les rapports, ajoutent leurs propres informations et vérifient l'exactitude des rapports avant de les soumettre.
Pour résumer, la façon dont la police américaine adopte l'IA est intrinsèquement chaotique. Aucune agence ne régit l'utilisation de la technologie, et les quelque 18 000 services de police des États-Unis - le chiffre exact n'est même pas connu - disposent d'un niveau d'autonomie remarquablement élevé pour décider des outils d'IA qu'ils achèteront et déploieront. Les entreprises de technologie policière qui les servent construiront les outils que les services de police trouveront intéressants, et il n'est pas certain que quelqu'un fixera les limites appropriées en matière d'éthique, de respect de la vie privée et de précision.
Cette situation ne sera que plus évidente sous la future administration Trump. Dans un programme de maintien de l'ordre publié l'année dernière pendant sa campagne, Donald Trump a encouragé des tactiques plus agressives telles que le « stop and frisk », une coopération plus étroite avec les services d'immigration et une protection accrue de la responsabilité des agents accusés d'avoir commis des actes répréhensibles. Il semblerait que l'administration Biden tente à présent de mettre en place certaines de ses propositions de réformes policières avant le mois de janvier.
En l'absence de réglementation fédérale sur la manière dont les services de police peuvent ou ne peuvent pas utiliser l'IA, les lignes seront tracées par les services et les entreprises de technologie policière eux-mêmes.
« En fin de compte, il s'agit d'entreprises à but lucratif, et leurs clients sont les forces de l'ordre », explique Jay Stanley. « Elles font ce que veulent leurs clients, en l'absence d'une menace très importante pour leur modèle d'entreprise. »