Le premier district scolaire des États-Unis à mettre à l’essai la reconnaissance faciale l’a fait début Juin
Le Lockport City School District de New York a commencé à tester un système de reconnaissance faciale et d’objets baptisé « Aegis » le 3 juin. Selon BuzzFeed News, cela en fera le premier aux États-Unis à mettre à l’essai un système de surveillance à reconnaissance faciale sur ses étudiants et ses professeurs. Le district a installé des caméras et la suite logicielle en septembre dernier, en utilisant 1,4 million de dollars sur les 4,2 millions de dollars reçus en vertu de la Smart Schools Bond Act de New York. Le financement fourni en vertu de la Loi sur les obligations est censé servir à l’achat d’appareils techniques d’enseignement, comme les iPads et les ordinateurs portatifs, mais le district avait clairement d’autres plans.
BuzzFeed News a mis la main sur une copie d’une lettre distribuée aux parents des élèves et décrit Aegis comme » un système d’alerte précoce » qui peut avertir les autorités des menaces. Le système, créé par l’entreprise canadienne SN Technologies, permet apparemment de suivre certaines personnes dans les cours d’école. Il s’agit notamment des délinquants sexuels de niveau 2 ou 3, de toute personne à qui il est interdit d’entrer à l’école et de toute personne soupçonnée de représenter une menace sur la base d’informations crédibles.
Le système peut également identifier les élèves et le personnel qui ont été suspendus, mais on ne sait pas encore Lockport l’utilisera pour surveiller ceux qui ont été suspendus pour des infractions non violentes. Selon la lettre, cependant, Aegis supprimera les séquences après 60 jours et n’enregistrera pas les mouvements des étudiants, du personnel et des visiteurs qui ne sont pas dans la liste des personnes à surveiller. Cela dit, le système devra analyser les visages de chacun pour identifier les personnes qu’il devra surveiller.
En plus d’être capable de reconnaître certaines personnes, le logiciel a été conçu pour reconnaître 10 types d’armes à feu. La lettre parle même de la nécessité d’un système de reconnaissance faciale dans le contexte des fusillades dans les écoles. Une partie de la lettre dit que bien que » les actes de violence dans les écoles continuent de se produire dans notre pays « , les parents peuvent » être assurés que le Lockport City School District continue de faire de la sécurité scolaire une priorité « .
Comme on peut le deviner, l’essai pilote est controversé, étant donné que la technologie fait l’objet d’un examen de plus en plus minutieux maintenant que les entreprises traitent l’information comme de l’argent. Les systèmes de reconnaissance faciale continuent d’afficher des préjugés sexistes et raciaux, ce qui conduit souvent à une mauvaise identification des femmes et des personnes de couleur. Ils sont loin d’être parfaits : en fait, lorsque la ville de New York l’a testé pour repérer des terroristes sur la route en 2018, elle n’a pas réussi à détecter un seul visage.
Stefanie Coyle, conseillère pédagogique de la New York Civil Liberties Union, a déclaré à BuzzFeed News que l’organisation avait demandé au New York State Education Department de bloquer le projet. Après tout, San Francisco a interdit cette technologie, et c’est une ville remplie d’entreprises technologiques qui la comprennent le mieux. « Pourquoi diable voudrions-nous que cela vienne à New York, a-t-elle ajouté, et dans un endroit où il y a des enfants ?«
Monica Wallace, membre de l’Assemblée nationale, a également présenté un projet de loi qui interdirait au district d’utiliser cette technologie. Mais s’il ne passe pas, Lockport pourra le déployer dans toutes ses écoles le 1er septembre. Cependant, avant que cela ne se produise, les responsables du district doivent faire les ajustements nécessaires en fonction des performances d’Aegis pendant la période pilote. Ils détermineront les meilleurs angles de caméra et les meilleurs éclairages pendant la phase de test et formeront également les gens à l’utilisation du système.
https://www.engadget.com/2019/05/30/facial-recognition-us-schools-new-york/
https://www.buzzfeednews.com/article/daveyalba/lockport-schools-facial-recognition-pilot-aegis
