Des chercheurs aux Etats-Unis souhaitaient que les enseignants de maternelle portent des caméras pour entraîner l'IA

« Avec votre permission, l’enseignant principal de votre enfant pourra porter une petite caméra qui capture approximativement le point de vue de l’enseignant à la première personne, et/ou nous pourrons placer une caméra vidéo fixe dans la salle de classe », peut-on lire dans un document remis aux parents et partagé ultérieurement avec 404 Media.

Des chercheurs de l'Université de Washington prévoyaient d'équiper les enseignants de maternelle de caméras qui enregistreraient tout ce qu'ils verraient en vue subjective, y compris les enfants dont ils s'occupaient, afin d'utiliser ces enregistrements pour développer des modèles d'intelligence artificielle. Point crucial, le programme était présenté comme un système de retrait par défaut, et non d'inscription volontaire : les parents devaient donc prendre des mesures pour empêcher que les enregistrements de leurs enfants ne soient traités par l'IA. 

« Avec votre accord, l’enseignant principal de votre enfant pourra porter une petite caméra qui filme son point de vue subjectif, et/ou nous pourrons installer une caméra vidéo fixe dans la classe », indique un document remis aux parents et transmis ultérieurement à 404 Media. « Ces vidéos capturent simplement les interactions habituelles entre les enseignants et les enfants lors des activités de classe. Les enregistrements ont lieu pendant les heures du programme du matin, pour une durée maximale de 150 minutes, et jusqu’à quatre fois par mois. Votre enfant ne sera pas amené à faire quoi que ce soit de nouveau ou de différent. Sa routine quotidienne restera exactement la même. »

Du moins, cela aurait été le cas si les parents ne s'étaient pas révoltés. Suite à la levée de boucliers, l'Université de Washington a annoncé à 404 Media avoir abandonné le projet de recherche.

« Cette étude vise à mieux comprendre les expériences d’apprentissage quotidiennes des enfants et à développer des outils d’intelligence artificielle permettant d’évaluer la qualité des interactions en classe », indique le document. Les recherches sont menées par la Dr Gail Joseph et l’équipe Cultivate Learning de l’Université de Washington. Les travaux de la Dre Joseph portent sur l’éducation de la petite enfance .

Le document indique que les enregistrements vidéo collectés auraient servi à « développer et évaluer des modèles d'IA pour l'analyse de la qualité des interactions en classe ». Cela implique que des examinateurs humains visionnent et annotent les vidéos, ces données permettant ensuite d'améliorer les modèles d'IA. « Des outils d'IA analyseront également ces mêmes enregistrements afin de générer des codes et des justifications », précise le document. Ce dernier ne cite aucun fournisseur d'IA en particulier, mais indique que « les données vidéo peuvent être traitées à l'aide de services d'IA basés sur le cloud ».

Photos de l'avis remis aux parents. Image : 404 Media.

Seules les équipes de recherche auraient utilisé les vidéos annotées pour entraîner des « modèles d'IA sécurisés et privés ».

Les enseignants devaient recevoir un « résumé écrit des observations », précise le document. Les chercheurs indiquent que les enregistrements vidéo et audio pourraient avoir été utilisés dans des articles universitaires ou lors de conférences, mais qu’ils avaient prévu de flouter les visages et de supprimer les noms « dans la mesure du possible ».

Enfin, les séquences vidéo et les données recueillies pourront être partagées avec d’autres « afin de soutenir les futures recherches sur l’éducation de la petite enfance », indique le document.

Une mère ayant reçu le document s'est dite « stupéfaite » après l'avoir lu. « Je suis très inquiète à l'idée que l'image de mon enfant soit utilisée dans des outils d'IA inconnus et des risques d'abus », a-t-elle ajouté. « J'étais particulièrement préoccupée par la capacité des familles à donner un consentement éclairé. Étant anglophone, le langage vague du document m'a soulevé de nombreuses questions. Beaucoup de familles de notre école sont issues de l'immigration et ne parlent pas anglais, or aucun formulaire n'a été fourni dans leur langue maternelle. » 404 Media a garanti l'anonymat de la mère afin d'éviter toute représailles.

404 Media a transmis des extraits du document à plusieurs experts en éducation et en intelligence artificielle. « Cet extrait ne fournit pas d'informations importantes, et ces omissions m'inquiètent (à supposer qu'elles ne figurent pas dans une autre partie du document que je n'ai pas consultée). Avec qui les données pourront-elles être partagées ? Combien de temps seront-elles conservées ? Qui finance la recherche ? Ce sont des questions auxquelles j'aimerais obtenir des réponses, et les réponses existent peut-être », a déclaré Faith Boninger, codirectrice du National Education Policy Center, à 404 Media. « Une question majeure, restée sans réponse, concerne la formulation qui décrit les finalités de l'utilisation des vidéos. L'expression "sans s'y limiter" laisse entendre qu'il pourrait y avoir une multitude d'utilisations futures des données, auxquelles on n'a même pas encore pensé. » 

« J’espère toujours que nous continuerons à trouver des moyens d’améliorer le soutien aux enseignants et aux élèves. Bien que je ne connaisse pas les détails de cette étude, je suis ravi, d’après ce que vous avez partagé, de constater que la recherche inclut l’intervention humaine et que la collecte et l’utilisation des données sont clairement divulguées », a déclaré Jake Baskin, directeur exécutif de l’Association des professeurs d’informatique, à 404 Media. « Cela dit, dès lors que nous introduisons des caméras et l’IA en classe, la protection des données des élèves et des enseignants doit être la priorité absolue. C’est grâce à des recherches rigoureuses et à la publication transparente des résultats que nous pourrons déterminer ce qui aide réellement les enseignants en classe. » 

Le document présente la participation à la recherche comme « entièrement volontaire ». Cependant, il ne s'agit pas d'un système d'inscription volontaire. Les parents doivent s'y opposer s'ils ne souhaitent pas que leurs enfants soient filmés par une caméra portée par un enseignant et que ces images soient traitées par une intelligence artificielle. « Vous pouvez refuser ou retirer votre enfant de la recherche à tout moment. Votre décision n'aura aucune incidence sur son inscription ni sur son statut au sein du programme », précise le document.

Cela a soulevé des questions quant à la mise en œuvre pratique de cette méthode. Si un parent retirait son enfant de l'étude, serait-il le seul à être exclu des enregistrements ? Jackson Holtz, directeur adjoint du service de presse de l'Université de Washington, a indiqué à 404 Media par courriel que si un parent retirait son enfant, toute sa classe serait exclue de l'étude. « La procédure de consentement a été conçue de telle sorte que non seulement les familles puissent se retirer, mais que si une seule famille décidait de se retirer, toute sa classe serait exclue », a-t-il écrit. Le parent a déclaré : « Ce n'est qu'en interrogeant les enseignants et l'administration scolaire que nous avons appris que les chercheurs colleraient des autocollants sur les enfants qui se retiraient, mais aucune autre information n'a été fournie quant à savoir s'ils seraient tout de même filmés. »

« Notre première prise de contact visait à mieux comprendre le ressenti des familles face à un projet utilisant l'intelligence artificielle pour soutenir les enseignants », a poursuivi Holtz. Il a ajouté qu'après ces retours, l'Université de Washington avait interrompu la recherche. « Compte tenu des premières réactions des parents, nous avons mis fin à l'étude et ne recherchons plus de participants sur aucun site. (Il est courant d'interrompre une étude à ses débuts, suite aux retours de nos partenaires communautaires.) Tous les programmes sont en cours d'information concernant l'arrêt de cette étude », a-t-il écrit.

Après que 404 Media a contacté l'université pour obtenir des commentaires, la section de son site web décrivant l'étude a été retirée.

https://www.404media.co/researchers-wanted-preschool-teachers-to-wear-cameras-to-train-ai