La plupart d’entre nous n’aime probablement pas l’idée qu’un étranger découvre qui nous sommes, cela étant basé seulement sur une photo en ligne de nous. Grâce aux systèmes de reconnaissance faciale utilisés par les sites de médias sociaux, une telle chose devient de plus en plus possible. Des scientifiques ont récemment décidé de faire quelque chose à ce sujet en confrontant deux systèmes d’intelligence artificielle (IA) l’un contre l’autre.

À l’Université de Toronto, le professeur Parham Aarabi et l’étudiant diplômé Avishek Bose ont commencé par concevoir deux réseaux neuronaux basés sur l’IA. L’un d’entre eux utilisait les mêmes techniques que les systèmes de reconnaissance faciale existants, pour identifier les personnes sur les photos. L’autre réseau cherchait à contrecarrer le premier, en modifiant légèrement les aspects de ces photos qui servaient à identifier les gens.

« L’IA perturbatrice peut attaquer » ce que recherche le réseau neuronal pour la détection des visages », explique Avishek Bose. « Si l’IA de détection recherche le coin des yeux, par exemple, elle ajuste le coin des yeux pour qu’ils soient moins perceptibles, créant des perturbations très subtiles sur la photo, mais pour le détecteur, ils sont suffisamment importants pour tromper le système. « 

Les deux réseaux ont fait des va-et-vient pendant un moment, chacun apprenant ce que l’autre faisait et essayant de le compenser. Ce qui en résulta finalement fut un algorithme qui pouvait être appliqué aux photos de visages, les rendant presque non reconnaissables, mais reconnaissables quand même par les personnes qui les connaissaient.

Parham Aarabi et Avishek Bose ont testé le système sur l’ensemble de la base de données de visages 300 W existante, qui consiste en des photos de plus de 600 visages couvrant différentes ethnies, conditions d’éclairage et environnements. Sans l’algorithme appliqué à ces images, un système de reconnaissance faciale était capable d’identifier avec précision près de 100 % des personnes. Une fois qu’il a été appliqué, cependant, ce taux a chuté à 0,5 %.

Il est maintenant espéré que l’algorithme puisse être intégré dans une application ou un site Web accessible au public, que les personnes qui sont préoccupées par leur vie privée pourraient utiliser pour traiter leurs photos avant de les poster.

http://news.engineering.utoronto.ca/privacy-filter-disables-facial-recognition-systems/