Skip to main content

24 Mai, 2024

L’IA repose sur la surveillance de masse, avertit la patronne de Signal

L’IA repose sur la surveillance de masse, avertit la patronne de Signal

Meredith Whittaker a déclaré que les inquiétudes concernant la surveillance et celles concernant l’IA étaient « deux façons d’aborder la même chose

Les outils d’IA qui traitent les chiffres, génèrent du texte et des vidéos et trouvent des modèles dans les données reposent sur la surveillance de masse et exercent un contrôle sur nos vies, a déclaré jeudi à l’AFP la patronne de l’application de messagerie cryptée Signal.

A l’occasion de VivaTech à Paris, la plus grande conférence européenne sur les start-ups où les acteurs de l’industrie vantent les mérites de leurs produits, Meredith Whittaker a déclaré que les inquiétudes sur la surveillance et celles sur l’IA étaient « deux façons d’appréhender la même chose ».

« Les technologies d’IA dont nous parlons aujourd’hui reposent sur la surveillance de masse », a-t-elle déclaré.

« Elles nécessitent d’énormes quantités de données qui sont les dérivés de ce modèle commercial de surveillance de masse qui s’est développé dans les années 90 aux États-Unis et qui est devenu le moteur économique de l’industrie technologique.« 

Meredith Whittaker, qui a passé des années à travailler pour Google avant de contribuer à l’organisation d’un débrayage du personnel en 2018 sur les conditions de travail, a créé l’AI Now Institute à l’Université de New York en 2017.

Elle fait désormais campagne pour la protection de la vie privée et s’insurge contre les modèles commerciaux construits sur l’extraction de données personnelles.

Et elle dit clairement qu’elle n’a pas confiance dans le fait que l’industrie de l’IA évolue dans la bonne direction.

Déséquilibres de pouvoir

Les systèmes d’IA sont avides de données à saisir, mais ils en produisent également de grandes quantités.

Même si elles sont incorrectes, ces données « ont le pouvoir de classer, d’ordonner et de diriger nos vies d’une manière qui devrait nous préoccuper tout autant », a-t-elle déclaré.

Elle a également souligné les déséquilibres de pouvoir créés par une industrie contrôlée par « une poignée de géants de la surveillance » qui « n’ont pas de comptes à rendre ».

« La plupart d’entre nous ne sont pas les utilisateurs de l’IA », a-t-elle déclaré.

« La plupart d’entre nous sont soumis à son utilisation par nos employeurs, par les forces de l’ordre, par les gouvernements, par qui que ce soit.« 

« Ils ont leurs propres objectifs, mais ce ne sont pas forcément des objectifs qui nous profitent ou qui profitent à la société.« 

Selon elle, un exemple frappant est la façon dont les entreprises d’IA aiment à dire qu’elles aident à trouver des solutions à la crise climatique.

En fait, elles reçoivent de l’argent des entreprises de combustibles fossiles et leur technologie est utilisée pour trouver de nouvelles ressources à extraire.

« Car, bien sûr, où sont les revenus ? Il ne s’agit pas de sauver le climat », a-t-elle déclaré. « Il s’agit de contrats massifs avec BP, Exxon et d’autres grandes compagnies pétrolières et gazières.« 

En fin de compte, elle a soutenu que les Européens ne devraient pas penser en termes de concurrence avec les grandes entreprises américaines d’intelligence artificielle.

Une autre option pourrait être de « réimaginer une technologie qui puisse servir des sociétés plus démocratiques et plus respectueuses des droits ou pluralistes ».

https://techxplore.com/news/2024-05-ai-mass-surveillance-boss.html