La mode contestataire s’oppose aux normes de surveillance
infohightech ·
Les tenues hostiles ne peuvent pas arrêter les caméras IA, mais peuvent les perturber.Des caméras dotées d’intelligence artificielle, capables d’ identifier les visages ou les plaques d’immatriculation, sont omniprésentes dans les rues du monde entier . Mais la grogne populaire prend de l’ampleur .
Les préoccupations liées à la protection de la vie privée sont nombreuses : absence de consentement pour la collecte des données, modalités de stockage et d’utilisation de ces données , et risques d’ abus . Ces préoccupations incitent à la résistance. Le projet DeFlock , par exemple, cartographie les lecteurs automatisés de plaques d’immatriculation (LAPI) afin de sensibiliser le public. Certains ont recours à des mesures extrêmes , comme le vandalisme ou la dégradation des LAPI. D’autres développent des solutions plus créatives, élaborant des stratégies originales pour contourner la surveillance vidéo, à l’instar du projet noRecognition , financé par Kickstarter et présenté lors de la convention de hackers DEF CON le mois dernier .
Brouillage de la surveillance
En 2025, Bill Swearingen, expert en cybersécurité, a commencé à expérimenter avec un fuzzer simple basé sur Python , un outil qui fournit des entrées invalides pour révéler des bogues logiciels, des failles de sécurité ou des comportements inattendus. Le fuzzer ciblait l’un des frameworks de détection d’objets les plus populaires, YOLO . Il a ensuite développé ses connaissances en un algorithme d’apprentissage par renforcement qui génère divers modèles adverses , qu’il a présenté à la conférence DEF CON.
| Un fuzzer est un outil de test automatisé qui injecte des données aléatoires, malformées ou inattendues dans les entrées d’un programme pour provoquer des pannes ou détecter des failles de sécurité |
Chaque motif est une abstraction géométrique colorée qu’il a testée sur 11 modèles de détection d’objets : quatre qui recherchent des visages, deux qui reconnaissent des visages et cinq qui détectent des personnes. La plupart de ces modèles sont accessibles au public. Les motifs performants perturbent les systèmes de détection d’objets, réduisant leur niveau de confiance, parfois même jusqu’à empêcher toute détection.
« Le respect de la vie privée est un droit fondamental, et la popularité de ce produit prouve simplement que les gens tiennent à préserver leur vie privée », déclare Swearingen.
Cap_able et Urban Privacy commercialisent déjà des vêtements. Le procédé de fabrication breveté de Cap_able intègre ses motifs vifs et audacieux dans des tissus jacquard. Ces robes, pantalons et hauts , produits de manière éthique et durable, perturbent certains systèmes de vision par ordinateur , notamment ceux utilisant des réseaux neuronaux convolutifs rapides , ce qui peut les amener à identifier les personnes qui les portent comme des animaux ou des objets.
« Si nous parvenons à camoufler une personne en la faisant passer pour autre chose, alors nous atteignons notre objectif », explique Rachele Didero , fondatrice de Cap_able et professeure adjointe à l’ Université libre de Bolzano, en Italie. « Nous utilisons cet objet très visible et tangible pour parler de quelque chose qui, la plupart du temps, est intangible. »
De son côté, Urban Privacy ambitionne de déjouer certains systèmes de reconnaissance faciale basés sur les algorithmes OpenCV grâce à sa nouvelle collection Faception Reloaded. Des imprimés en noir et blanc, inspirés d’un visage humain, apparaissent comme des visages supplémentaires sur les détecteurs, ralentissant ainsi leur fonctionnement. Des coupes asymétriques et des silhouettes amples visent à dissimuler les traits, rendant plus difficile la perception de la forme du corps et de la démarche. « L’idée est de créer de fausses données », explique le cofondateur Daniel Preuß .
Motifs simulés destinés à perturber les détecteurs de personnes par vision artificielle . noRecognition
« Ce n’est pas une cape d’invisibilité »
La mode anti-surveillance trouve ses racines dans les œuvres d’art, les projets DIY et les expériences de pensée apparus en réaction à l’avènement des systèmes de surveillance par intelligence artificielle il y a plus de dix ans. Par exemple, le technologue Adam Harvey a développé plusieurs modèles dans les années 2010 : coiffures et maquillages conçus pour déjouer les détecteurs de visage , vêtements réfléchissant la chaleur pour contrer la surveillance thermique par drones . En 2019, l’artiste et militante Kate Bertash a créé sa ligne de vêtements « Adversarial Fashion », ornée de fausses plaques d’immatriculation afin de perturber les bases de données de lecture automatique de plaques d’immatriculation (LAPI).
Cette tendance se transforme désormais en une petite industrie plus structurée. « Les vêtements sont des choses que l’on peut acheter et porter, contrairement aux politiques publiques », explique Niloofar Mireshghallah , future professeure d’ingénierie et de politiques publiques à l’université Carnegie Mellon . « C’est une façon de dire : “Je n’ai pas consenti à cela.” »
Cependant, les conditions réelles peuvent réduire l’efficacité des vêtements de contre-surveillance, notamment les angles de prise de vue, l’éclairage et la façon dont le tissu se plie lors des mouvements. « Une seule bonne image suffit à un système », affirme Mireshghallah.
La reconnaissance des mouvements et de la démarche est également un facteur important. « Même si la caméra vous prend pour un ours pendant quelques images, il y a bien un ours qui marche comme vous », explique Mireshghallah.
Les schémas d’attaque doivent être adaptés à des modèles de reconnaissance d’objets spécifiques afin de ne pas résister à un modèle différent. Une fois que les opérateurs de systèmes de surveillance auront entraîné une nouvelle génération de modèles sur un schéma d’attaque donné et sur la personne qui le porte (ce qu’ils pourraient faire manuellement), les vêtements ne constitueront plus une défense suffisante.
« Cela reste un bouclier fragile contre une menace qui s’améliore constamment sous de multiples angles », déclare Dippu Kumar Singh , directeur principal des données émergentes et de l’analyse chez Fujitsu Amérique du Nord, spécialisé dans l’IA de vision et l’éthique de l’IA.
Les créateurs sont conscients des limites de leurs créations. « Ce n’est pas une cape d’invisibilité », explique Preuß. « La surveillance vise à capturer votre identité, et la mode est un moyen de l’exprimer. Nous créons des vêtements que l’on peut porter pour affirmer l’importance de la vie privée dans le monde numérique. »
Défense active
Malgré ces obstacles, Didero de Cap_able est déterminé à poursuivre ses innovations. Urban Privacy continuera de dévoiler d’autres pièces de sa collection, notamment une « casquette ombre » dotée d’une visière en acrylique découpée pour flouter les contours du visage. Swearingen prévoit d’explorer certaines anomalies qu’il a rencontrées, comme un motif qui modifiait le cadre de sélection et un autre qui changeait un réglage de l’appareil photo.
La mode contestataire est prometteuse malgré ses écueils. « Au fond, cette mode vise à reprendre le contrôle de son visage et de son corps », explique Singh. « Les gens commencent à comprendre que le droit à la vie privée n’est pas un acquis passif, mais un droit qu’ils doivent défendre activement. »
Mireshghallah propose une approche plus prudente, considérant la contre-surveillance comme un simple ralentissement temporaire plutôt que comme une solution définitive. Le véritable risque, souligne-t-elle, réside dans l’agrégation : les modèles exploitent un ensemble de signaux faibles, tels qu’un visage partiel, un bâtiment en arrière-plan, un horodatage ou une publication sur les réseaux sociaux où vous êtes identifié, et les combinent pour deviner avec une certaine assurance votre identité et votre localisation.
« Aucun de ces éléments pris individuellement ne vous trahit, mais ensemble, ils le font », explique Mireshghallah. « Mon conseil : ne vous contentez pas de vouloir cacher votre visage à l’objectif. Réfléchissez à tout ce que vous laissez transparaître d’autre et qui pourrait s’y ajouter. Ces informations secondaires sont souvent ce qui vous identifie réellement, et aucun motif sur une chemise ne peut y remédier. »
https://spectrum.ieee.org/adversarial-fashion
/vous-portez-ce-vetement-la-reconnaissance-faciale-par-lia-pense-que-vous-etes-un-animal/