Les chatbots IA utilisent régulièrement les conversations des utilisateurs à des fins de formation, ce qui soulève des problèmes de confidentialité.
Crédit : Andrea Piacquadio de Pexels
Les grandes entreprises d’IA utilisent les conversations des utilisateurs à des fins de formation, ce qui soulève d’importantes préoccupations en matière de confidentialité et souligne la nécessité de politiques plus transparentes.
Le mois dernier, Anthropic a apporté un changement discret à ses conditions de service pour les clients : les conversations que vous avez avec son chatbot IA, Claude, seront utilisées par défaut pour former son grand modèle de langage, à moins que vous ne vous désinscriviez.
Anthropic n’est pas la seule à adopter cette politique. Une étude récente sur les politiques de confidentialité des développeurs pionniers a révélé que six grandes entreprises américaines intègrent les données des utilisateurs dans leurs modèles afin d’améliorer leurs fonctionnalités et de gagner des parts de marché. Certaines offrent aux consommateurs la possibilité de se désinscrire, d’autres non.
Compte tenu de cette tendance, les utilisateurs de systèmes de chat basés sur l’IA devraient-ils se soucier de leur vie privée ? « Absolument », déclare Jennifer King, chargée de recherche en politique de confidentialité et de données au Stanford Institute for Human-Centered AI et auteure principale de l’ étude publiée sur le serveur de prépublication arXiv .
« Si vous partagez des informations sensibles dans une boîte de dialogue avec ChatGPT, Gemini ou d’autres modèles de frontière, elles peuvent être collectées et utilisées à des fins de formation, même si elles se trouvent dans un fichier séparé que vous avez téléchargé pendant la conversation. »
King et son équipe de chercheurs de Stanford ont examiné les politiques de confidentialité des développeurs d’IA et identifié plusieurs sources de préoccupation, notamment les longues périodes de conservation des données, la formation sur les données des enfants et le manque général de transparence et de responsabilité dans les pratiques de confidentialité des développeurs. Au vu de ces conclusions, les consommateurs devraient réfléchir à deux fois avant de partager des informations dans les conversations de chat avec l’IA et, dans la mesure du possible, refuser explicitement que leurs données soient utilisées à des fins de formation.
L’histoire des politiques de confidentialité
En tant qu’outil de communication, la politique de confidentialité de l’ère Internet désormais appliquée aux conversations IA présente de graves lacunes. Généralement rédigés dans un langage juridique complexe, ces documents sont difficiles à lire et à comprendre pour les consommateurs. Pourtant, nous devons les accepter pour consulter des sites web, interroger des moteurs de recherche et interagir avec des modèles de langage étendus (MLE).
Au cours des cinq dernières années, les développeurs d’IA ont extrait d’énormes quantités d’informations de l’Internet public pour former leurs modèles, un processus qui peut par inadvertance extraire des informations personnelles dans leurs ensembles de données.
« Nous avons des centaines de millions de personnes qui interagissent avec des chatbots d’IA, qui collectent des données personnelles à des fins de formation, et presque aucune recherche n’a été menée pour examiner les pratiques de confidentialité de ces outils émergents », explique King.
Aux États-Unis, ajoute-t-elle, la protection de la vie privée des données personnelles collectées par les développeurs LLM ou partagées avec eux est compliquée par une mosaïque de lois au niveau des États et un manque de réglementation fédérale.
Afin de combler cette lacune en matière de recherche, l’équipe de Stanford a comparé les politiques de confidentialité de six entreprises américaines : Amazon (Nova), Anthropic (Claude), Google (Gemini), Meta (Meta AI), Microsoft (Copilot) et OpenAI (ChatGPT). Pour chaque LLM, ils ont analysé un ensemble de documents, incluant les politiques de confidentialité publiées, les sous-politiques associées, ainsi que les FAQ et les conseils associés accessibles depuis les interfaces de chat, soit un total de 28 documents volumineux.
Pour évaluer ces politiques, les chercheurs ont suivi une méthodologie utilisée par la loi californienne sur la protection de la vie privée des consommateurs (California Consumer Privacy Act), la loi la plus complète des États-Unis en matière de protection de la vie privée, et les six développeurs pionniers sont tenus de la respecter. Pour chaque entreprise, les chercheurs ont analysé le libellé de la documentation afin de déterminer comment les politiques énoncées répondent à trois questions :
- Les contributions des utilisateurs aux chatbots sont-elles utilisées pour former ou améliorer les LLM ?
- Quelles sources et catégories de données personnelles des consommateurs sont collectées, stockées et traitées pour former ou améliorer les LLM ?
- Quelles sont les options dont disposent les utilisateurs pour accepter ou refuser que leurs chats soient utilisés à des fins de formation ?
Des frontières floues
Les chercheurs ont constaté que les six entreprises utilisent par défaut les données de chat des utilisateurs pour entraîner leurs modèles, et que certains développeurs conservent ces informations dans leurs systèmes indéfiniment. Certaines entreprises, mais pas toutes, déclarent anonymiser les informations personnelles avant de les utiliser à des fins de formation. Enfin, certaines autorisent des humains à consulter les transcriptions de chat des utilisateurs à des fins d’entraînement.
Dans le cas des entreprises multiproduits, telles que Google, Meta, Microsoft et Amazon, les interactions des utilisateurs sont également systématiquement fusionnées avec les informations recueillies à partir d’autres produits que les consommateurs utilisent sur ces plateformes : requêtes de recherche, ventes/achats, engagement sur les réseaux sociaux, etc.
Ces pratiques peuvent devenir problématiques lorsque, par exemple, les utilisateurs partagent leurs données biométriques et de santé sans en évaluer les implications. Voici un scénario réaliste : imaginez que vous demandiez des idées de dîner à un licencié en droit. Vous souhaitez peut-être des recettes faibles en sucre ou bonnes pour le cœur. Le chatbot peut tirer des conclusions à partir de ces informations, et l’algorithme peut décider que vous correspondez à la classification des personnes à risque.
« Cette détermination se répercute progressivement dans l’écosystème du développeur. On commence à voir des publicités pour des médicaments, et il est facile d’imaginer comment ces informations pourraient atterrir entre les mains d’une compagnie d’assurance. Les effets se font sentir au fil du temps », ajoute Jennifer King.
Un autre signal d’alarme relevé par les chercheurs concerne la confidentialité des enfants : les pratiques des développeurs varient à cet égard, mais la plupart ne prennent aucune mesure pour supprimer les données des enfants lors de la collecte de données et de l’apprentissage des modèles. Google a annoncé plus tôt cette année qu’il entraînerait ses modèles à partir de données d’adolescents, s’ils le souhaitaient.
En revanche, Anthropic affirme ne pas collecter les données des enfants et ne pas autoriser les utilisateurs de moins de 18 ans à créer des comptes, bien qu’aucune vérification de l’âge ne soit requise. Microsoft affirme quant à elle collecter les données des enfants de moins de 18 ans, mais ne pas les utiliser pour créer des modèles linguistiques. Toutes ces pratiques soulèvent des questions de consentement, car les enfants ne peuvent légalement pas consentir à la collecte et à l’utilisation de leurs données.
IA préservant la confidentialité
Globalement, les chercheurs de Stanford ont constaté que les politiques de confidentialité des développeurs manquent d’informations essentielles sur leurs pratiques. Ils recommandent aux décideurs politiques et aux développeurs de relever les défis posés par les chatbots basés sur des LLM en matière de confidentialité des données grâce à une réglementation fédérale complète, à l’acceptation explicite de l’apprentissage des modèles et au filtrage par défaut des informations personnelles dans les messages de chat.
« En tant que société, nous devons évaluer si les gains potentiels en matière de capacités d’IA, issus de l’apprentissage sur les données de chat, justifient la perte considérable de confidentialité des consommateurs. Nous devons également promouvoir l’innovation en matière d’IA respectueuse de la vie privée, afin que la confidentialité des utilisateurs ne soit pas une préoccupation secondaire », conclut King.
https://news.stanford.edu/stories/2025/10/ai-chatbot-privacy-concerns-risks-research