La police utilise un système de reconnaissance faciale défaillant, arrête un homme au hasard et l'accuse d'un crime horrible

La police de Floride fait amende honorable après avoir arrêté en août 2024 un homme pris au hasard, sur la base d'une piste générée par un logiciel de reconnaissance faciale, et l'avoir accusé d'un crime horrible dont il était totalement innocent.

Robert Dillon, du comté de Lee, en Floride, a été choqué lorsque des policiers l'ont exfiltré de son domicile l'année dernière, l'accusant d'avoir tenté d'attirer un enfant de 12 ans dans une autre partie de l'État en novembre 2023.

Selon un rapport de police consulté par  Action News Jax , un média local, Dillion a été accusé du crime après qu'un logiciel d'IA utilisé par le bureau du shérif de Jacksonville et le département de police de Jacksonville Beach l'a relié aux images de surveillance du véritable suspect, le qualifiant de « correspondance à 93 % ».

La photo de Dillon a ensuite été montrée à deux témoins ainsi qu'à des individus d'apparence similaire, qui ont tous deux identifié l'homme de 51 ans comme le suspect, ce qui a conduit à son arrestation neuf mois après le crime présumé.

Dans une vidéo prise par une caméra corporelle partagée par ANJax , on peut voir Dillon et sa femme manifestement perturbés par l'accusation.

« C'est complètement dingue. Mon Dieu, c'est dingue », a déclaré Dillon tandis que la police locale le forçait à monter à l'arrière d'une voiture de patrouille. « Je ne suis pas sorti de Fort Meyers depuis deux ans », a-t-il déclaré à la police, faisant référence au chef-lieu du comté de Lee. Jacksonville Beach, pour rappel, se trouve à cinq heures de route au nord, de l'autre côté de la péninsule.

L'homme de Floride fait partie d'un nombre croissant d' arrestations injustifiées attribuées à l'IA, une tendance inquiétante alors que de plus en plus de services de police sous-traitent leur travail de détective à des logiciels algorithmiques non éprouvés et souvent bâclés.

Aux États-Unis, la police locale s'appuie de plus en plus sur des technologies d'IA qui croisent des ensembles de données tels que les informations d'immatriculation des conducteurs , les images de caméras de surveillance et les données des réseaux sociaux . Ces systèmes sont notoirement peu fiables et obséquieux , parcourant de vastes pans d'Internet pour confirmer les requêtes des utilisateurs.

Associé à des accusations juridiques qui changent la vie, c'est la recette d'une histoire d'horreur technologique dystopique.

Même si cette technologie parvenait à identifier le bon suspect — un grand « si », compte tenu de ses nombreux échecs jusqu'à présent — la Constitution américaine exige une cause probable pour procéder à une arrestation que les experts juridiques disent que l'IA ne peut pas fournir.

« La Constitution interdit à la police d'arrêter quelqu'un sans motif valable », a déclaré à  ANJax Nate Freed-Wessler, directeur adjoint du projet Discours, vie privée et technologie de l'ACLU (Union américaine pour les libertés civiles) . « Et cette technologie ne peut expressément pas fournir de motif valable, elle est tellement défaillante et peu fiable. Au mieux, elle doit être considérée comme une piste extrêmement peu fiable, car elle se trompe souvent. »

Et si l'utilisation de ce logiciel notoirement hallucinogène conduit à des arrestations injustifiées, elle permet également aux services de police de se soustraire à leur obligation de respecter les procédures légales . Tout au long de la saga exaspérante de Robert Dillon, les deux services de police impliqués se sont constamment renvoyé la responsabilité.

« Si vous veniez me voir avec une reconnaissance faciale et que c'était votre cause probable, je vous expulserais probablement de mon bureau, car ce n'est pas comme ça que ça marche », a déclaré le shérif de Jacksonville, TK Waters, à  ANJax . Bien que le service de Waters ait apparemment prêté main-forte à la police de Jacksonville Beach grâce à son laboratoire d'intelligence artificielle pour identifier Dillon, Waters et son service peuvent se dégager de toute responsabilité tant qu'ils ne sont pas l'organisme qui a procédé à l'arrestation.

Les officiers qui ont procédé à l'arrestation dans le comté de Lee ont fait la même chose : « Je ne sais pas quoi vous dire, G. Ce n'est pas notre enquête, c'est tout Jacksonville », a déclaré l'officier à Dillon, faisant référence au shérif de Jacksonville et au département de police de Jacksonville Beach.

Lorsqu'il est devenu évident qu'ils avaient affaire à la mauvaise personne - que ce soit en raison d'un alibi prouvé ou d'un manque de cause probable, ce qui n'est pas encore connu - les deux agences de Jacksonville ont renvoyé la responsabilité à l'État de Floride.

« Nous ne ferons aucun commentaire sur cette affaire, si ce n'est que nous précisons que toutes les demandes de mandat sont soumises au bureau du procureur de l'État », a déclaré le département de police de Jacksonville Beach dans un communiqué . « La décision de délivrer ou non un mandat leur appartient entièrement. »

Selon  ANJax , Dillon réclame désormais des dommages et intérêts pour son arrestation injustifiée. Si l'on en croit des poursuites similaires , cet incident pourrait coûter très cher aux contribuables de Jacksonville.

https://futurism.com/police-facial-recognition-random-arrest