Cette conception contradictoire pourrait être imprimée sur une chemise pour tromper les algorithmes de reconnaissance d’objets.
Dans les villes modernes, nous sommes constamment surveillés par des caméras de vidéosurveillance dans les espaces publics et privés, et par des entreprises qui essaient de nous vendre n’importe quoi à cause de tout ce que nous faisons. Nous sommes toujours surveillés.
Mais que se passerait-il si un simple T-shirt pouvait vous rendre invisible aux IA commerciales qui essaient de repérer les humains ?
Une équipe de chercheurs de l’Université Northwestern, d’IBM et du MIT a mis au point un design de t-shirt qui cache le porteur aux systèmes de reconnaissance d’images en brouillant les algorithmes et en essayant de faire croire aux gens qu’il est invisible.
Les conceptions contradictoires, comme on appelle ce type de technologie anti-AI, sont destinées à « piéger » les algorithmes de détection d’objets pour qu’ils voient quelque chose de différent de ce qui est là, ou ne voient rien du tout. Dans certains cas, ces conceptions sont faites en ajustant des parties d’une image entière juste assez pour que l’IA ne puisse pas la lire correctement. Le changement peut être imperceptible pour un humain, mais pour un algorithme de vision industrielle, il peut être très efficace : En 2017, les chercheurs ont dupé les ordinateurs pour faire croire qu’une tortue était un fusil.
Un T-shirt est un moyen à faible barrière de se déplacer autour du monde sans être remarqué par les observateurs de l’IA. Auparavant, les chercheurs ont essayé de créer une mode contradictoire à l’aide de pièces rapportées attachées à du carton rigide, de sorte que le dessin ne se déforme pas sur un tissu mou lorsque le porteur se déplace. Si la conception est déformée ou si une partie de celle-ci n’est pas visible, elle devient inefficace.
Personne ne va commencer à porter des morceaux de carton et la plupart d’entre nous ne se mettront probablement pas de peinture de type clownesque sur le visage (du moins pas avant que tout le monde le fasse), alors les chercheurs ont mis au point une approche pour expliquer comment le mouvement du tissu déforme une image quand ils créent un dessin accusatoire à imprimer sur un t-shirt. Par conséquent, la nouvelle chemise permet au porteur de bouger naturellement tout en cachant (pour la plupart) la personne.
Il serait facile d’écarter ce genre de chose comme étant trop tiré par les cheveux pour devenir réalité. Mais alors que de plus en plus de villes du pays s’opposent à la reconnaissance faciale dans leurs communautés, il n’est pas difficile d’imaginer une sorte de collab hypebeast Supreme x MIT avec des tees accusatoires pour tromper les détecteurs de personnes dans l’avenir. Les chemises du professionnel de la sécurité Kate Rose qui trompent les lecteurs automatiques de plaques d’immatriculation, par exemple, sont déjà à vendre et à marcher parmi nous.
https://www.vice.com/en_us/article/evj9bm/adversarial-design-shirt-makes-you-invisible-to-ai
