Les administrateurs affirment que l’installation de dispositifs d’écoute comme Alexa dans les chambres d’étudiants et les couloirs pourrait aider à réduire le taux de décrochage. Tout le monde n’est pas d’accord.

Lorsque Mateo Catano est revenu pour sa deuxième année de baccalauréat à l’Université Saint Louis (SLU)  à l’automne 2018, il s’est retrouvé avec un nouveau colocataire – pas un autre étudiant mais un cerveau désincarné sous la forme d’un Echo Dot d’Amazon.

Plus tôt cet été-là, le département de technologie de l’information de la SLU avait installé environ 2300 enceintes intelligentes – un pour chacune des salles de la résidence de l’université, ce qui faisait de l’école la première du pays à le faire. Chaque appareil était préprogrammé pour répondre à environ 130 questions spécifiques à la SLU, allant des heures d’ouverture de la bibliothèque à l’emplacement du bureau du registraire (l’école a baptisé cet appareil  » AskSLU « ). Les appareils comprenaient également les  » compétences  » vocales de base disponibles sur d’autres Dots, y compris les alarmes et les rappels, les informations générales et la possibilité de diffuser de la musique en continu.

Pour Mateo Catano, le Dot était un ajout bienvenu. Il aimait entendre la météo dès le matin et savoir quelles salles à manger étaient ouvertes. Et, pour être honnête, il aimait la société (Amazon). « Vivant en célibataire, AskSLU m’a définitivement fait me sentir moins seul », dit-il. « Et j’aimais le statut de la première université à faire ça. »

La réaction de Mateo Catano a été exactement ce que les administrateurs de la SLU espéraient. Cet automne, l’institution jésuite a annoncé son intention d’élargir les compétences vocales de ses Echo Dots en y incluant des fonctions de messagerie texte et de chatbot.

Aucune idée des effets à long terme

Nous sommes à l’aube d’une nouvelle ère d’orateurs intelligents sur le campus. Des écoles aussi diverses que l’Arizona State University, l’Université de Lancaster au Royaume-Uni et la Ross University School of Medicine à la Barbade ont adopté la technologie des compétences vocales sur leur campus. Certaines, dont la Northeastern University, ont poussé la technologie encore plus loin et donnent maintenant aux étudiants l’accès aux données financières, aux horaires et aux notes des cours, ainsi qu’aux frais de scolarité impayés par le biais d’appareils vocaux.

Fin 2018, l’Emerson College de Boston a annoncé qu’il était l’un des 18 bénéficiaires d’une subvention d’Amazon pour faire progresser la technologie vocale sur les campus, dans le cadre de la bourse Alexa Innovation Fellowship du géant de la technologie. L’Emerson College a créé un laboratoire vocal dédié où les étudiants peuvent interagir et expérimenter avec les compétences Alexa, et il prévoit d’installer des dispositifs Alexa dans des endroits comme les théâtres et les ascenseurs extérieurs.

Les administrateurs de certaines de ces écoles disent qu’ils croient qu’Alexa augmentera les inscriptions et réduira le taux de décrochage. Plusieurs ont également dit qu’ils croient que la technologie vocale peut accroître la réussite de leurs élèves et augmenter leur bonheur général ( ????)

Cependant, il y a beaucoup de gens sur le campus qui voient un côté sombre.

 » Lorsqu’il s’agit de déployer des dispositifs d’écoute là où se déroulent des conversations délicates, nous n’avons tout simplement aucune idée de l’effet à long terme que pourrait avoir sur leur avenir le fait d’avoir des conversations enregistrées et conservées par Amazon – et même, très probablement, sur leur santé et leur bien-être « , dit Russell Newman, un professeur du Emerson College qui fait des recherches sur l’économie politique des communications et la politique des communications.

“ Nous ne savons pas encore vraiment combien de données les hôtes comme Amazon – ou les tiers qui dépendent d’Amazon – récoltent, ni ce qu’ils font avec ces informations. »

D’autres membres de la faculté ont fait écho aux objections de Russell Newman. Et si les données recueillies lors des conversations des étudiants affectaient leurs chances d’obtenir un prêt hypothécaire ou un emploi plus tard ? Et si elles étaient utilisées contre des étudiants étrangers pour les faire expulser, éventuellement vers des pays d’origine où ils pourraient être emprisonnés pour leurs opinions politiques ?

C’est vrai. Alors, compte tenu de tous les risques, pourquoi les universités sont-elles si désireuses de remplir leurs campus de microphones compatibles avec l’IA ? Qu’est-ce qu’ils y gagnent ?

L’IA à la rescousse

Les collèges et les universités font face à plusieurs crises imminentes. Après des années de forte hausse des inscriptions, les écoles américaines voient leurs effectifs diminuer, une tendance qui devrait s’aggraver au cours de la prochaine décennie. Un rapport spécial publié en novembre 2019 par la Chronicle of Higher Education prévoit des baisses rapides, même dans les établissements les plus sélectifs du pays. Les revenus des établissements ont stagné – Moody’s Investors Service a publié une perspective négative pour l’enseignement supérieur pour l’exercice 2019, à l’exception des universités du Sud.

Depuis trois ans, le ministère de l’Éducation cherche à réduire de plusieurs milliards de dollars l’aide financière et le soutien aux étudiants les plus pauvres, bien que le Congrès ait rejeté ces réductions. Les contributions des États aux budgets des universités publiques sont à la traîne depuis la dernière récession. Les collèges privés sont également en difficulté ; plus d’un quart d’entre eux sont maintenant dans le rouge. Ces dernières années, 20 collèges privés à but non lucratif ont fermé leurs portes, et beaucoup d’autres envisagent de fusionner ou de se regrouper.

Pendant ce temps, la moitié des étudiants qui entrent au collège n’obtiennent pas leur diplôme dans les six ans. Les chercheurs donnent diverses explications. Nick Bowman, professeur d’éducation à l’université de l’Iowa, souligne le fait que les étudiants d’aujourd’hui sont plus âgés que les 18 à 22 ans traditionnels. Beaucoup ont un emploi à temps plein. Certains s’occupent d’enfants, de frères et sœurs ou de parents âgés. Et avec une dette moyenne de 35 000 dollars en prêts étudiants après quatre ans d’études, la perspective de décrocher peut être tentante.

Pour de nombreux administrateurs de collèges, l’AI offre des solutions attrayantes à ces problèmes. La Winston-Salem State University, une université historiquement noire qui accueille de nombreux étudiants à faible revenu et de la première génération, a toujours eu des problèmes pour aider chaque nouvelle promotion à respecter les principales échéances, par exemple pour soumettre les relevés de notes et les carnets de vaccination, remplir les formulaires d’aide financière et effectuer les dépôts pour le logement.  » Nous nous sommes rendu compte que beaucoup de nos étudiants ne comprenaient peut-être pas le processus d’inscription au collège et ne pouvaient pas compter sur les familles ou les systèmes de soutien pour le décoder à leur place « , dit Jay Davis, le responsable des relations avec les médias de l’université.

Il y a deux ans, la WSSU s’est associée à une société de technologie appelée AdmitHub pour offrir un chatbot d’IA nommé Winston pour aider les étudiants à naviguer dans le processus d’inscription. Jay Davis affirme que l’application répond avec succès à environ trois quarts des questions des étudiants et qu’il y a eu une augmentation spectaculaire du nombre d’étudiants qui répondent à leurs exigences financières et qui soumettent tous les documents nécessaires pour remplir leur demande d’inscription. Cette année, l’UES accueille sa plus grande classe de première année depuis plus de dix ans, et Jay Davis affirme que Winston a joué un rôle important à cet égard.

L’accès à vos mots, pour toujours

Plusieurs personnes ont passé plusieurs heures à jouer avec des chatbots dans une poignée de collèges et d’universités. Ils ont tous répondu à des questions sur la mascotte de l’école, sur l’endroit où l’on pouvait manger et sur la date du prochain événement sportif ou de réseautage des anciens élèves. Mais ils en ont floué d’autres. Quand l’une de ces personnes a dit à l’un d’entre eux qu’il était malade, il l’a informé que le centre de santé des étudiants ne donnerait pas d’excuse écrite pour les cours manqués. Et lorsqu’il a été demandé au chabot où se trouvait le centre de santé des étudiants ; il a répondu que les étudiants potentiels pouvaient visiter l’université.

Les programmeurs du campus, de l’autre côté de ces dispositifs, disent que les compétences s’amélioreraient à mesure que davantage d’étudiants les utiliseraient – ce qui est, bien sûr, ce qui rend l’IA si efficace. Mais c’est aussi ce qui rend les menaces à notre vie privée si réelles, assure Vitaly Shmatikov, professeur d’informatique à Cornell Tech. Les entreprises de technologie, dit Vitaly Shmatikov, sont notoirement opaques en ce qui concerne la protection de la vie privée et la sécurité. Ce que lui et d’autres chercheurs ont appris à leur sujet, c’est en grande partie grâce à la rétro-ingénierie et à quelques conjectures éclairées, et les conclusions de Vitaly Shmatikov le préoccupent beaucoup.

Pour commencer, dit-il, des entreprises comme Amazon forment leurs algorithmes de reconnaissance de la parole sur des enregistrements d’interactions antérieures des utilisateurs afin de les rendre plus aptes, par exemple, à comprendre l’intention d’une question. Il dit que toutes les entreprises concernées sont  » très méfiantes  » quant à la quantité de données qui circulent entre elles. « Il n’y a aucune promesse à l’utilisateur que ses données ne quitteront pas un appareil particulier « , souligne Vitaly Chmatikov. « Nous ne savons pas encore vraiment combien de données sont récoltées par des hôtes compétents comme Amazon ou des tiers qui dépendent d’Amazon, ni ce qu’ils font de ces informations. Amazon n’a pas répondu aux multiples demandes de commentaires ».

Selon Vitaly Shmatikov, il est raisonnable de supposer que le Cloud d’une entreprise comporte des enregistrements datés et horodatés des demandes des élèves à un interlocuteur intelligent, et les appareils peuvent même enregistrer les conversations que l’élève a pu avoir avec d’autres personnes avant ou après lui avoir parlé. Au fur et à mesure que les compétences en matière d’identification vocale et de localisation s’amélioreront, il sera de plus en plus possible de relier ces enregistrements à une personne individuelle. Ce n’est pas comme si une école fouillait votre casier ; c’est plutôt comme si une école enregistrait à perpétuité tout ce qui s’est trouvé dans votre casier et ce que vous et vos amis avez dit chaque fois que vous l’avez ouvert, puis laissait une foule d’entités commerciales chercher cette information.

Les responsables de l’Arizona State University et de la Saint Louis University affirment qu’ils n’établissent pas de liens entre des informations telles que les finances, les dossiers médicaux et les notes des étudiants (données dites  » authentifiées « , car elles exigent qu’un étudiant établisse un lien avec ses comptes personnels) tant qu’ils ne sont pas plus sûrs des mesures de sécurité. La technologie utilisée à Northeastern a été mise au point par une petite équipe dirigée par Somen Saha, alors employée de l’université. Saha a finalement créé une société indépendante appelée n-Powered, qui a développé une application appelée MyHusky, disponible par l’intermédiaire d’Alexa. Cependant, sa page de confidentialité reconnaît également :  » Nous utilisons la plateforme d’Amazon pour faire fonctionner cette application. Amazon stocke des informations sur l’utilisation qui peuvent être purgées sur demande. »

Selon Vitaly Chmatikov, le fait d’utiliser le logiciel d’une université et de limiter l’utilisation des chatbots à des questions générales peut limiter l’accès d’une entreprise de technologie à l’information sur les étudiants, mais cela ne résoudra pas entièrement le problème. Il signale des questions délicates, comme celle de savoir si le centre de santé offre des tests de dépistage des MST ou des prescriptions pour traiter des maladies comme la schizophrénie : techniquement, ces questions ne sont pas liées à un étudiant en particulier, mais il n’est pas trop difficile de savoir qui les pose, et les étudiants ne se rendent pas toujours compte qu’il ne s’agit pas de demandes anonymes. De plus, dit Vitaly Chmatikov, tant qu’une entreprise comme Amazon convertit les messages-guides des élèves en signaux de données, elle a accès à l’information de l’élève – pour toujours.

Des ramifications effrayantes

La protection de la vie privée est une préoccupation pour tout utilisateur d’un dispositif d’IA, mais les professeurs avec lesquels j’ai parlé pour cette histoire insistent sur le fait qu’il y a des ramifications particulièrement effrayantes pour l’enseignement supérieur.

 » Les étudiants de collège sont peut-être la catégorie de consommateurs la plus désirable « , affirme Russell Newman d’Emerson. « Ils sont les plus difficiles à atteindre et les plus susceptibles de créer des tendances. » Par conséquent, dit-il, leurs données sont parmi les plus précieuses et les plus susceptibles d’être exploitées ou vendues. Et le fait que les établissements d’enseignement soient complices de la réification des étudiants pour le profit des entreprises est, selon lui, fondamentalement contraire à leur mission.

Sarah T. Roberts, professeur adjoint en études de l’information à l’UCLA, affirme que les écoles qui concluent des ententes avec des entreprises technologiques mettent au moins potentiellement en péril le bien-être de leurs étudiants.  » Le temps passé par un étudiant dans un collège ou une université est utilisé pour explorer des idées et essayer de nouvelles identités, qu’il s’agisse de convictions politiques ou de sexe et de sexualité « , précise Sarah Roberts.  » Le fait de savoir qu’elles sont enregistrées au fur et à mesure empêchera sans doute les élèves de se sentir capables de s’exprimer « . Il faut aussi se rappeler, dit-elle, que beaucoup d’élèves viennent de pays où il peut être dangereux de révéler sa sexualité ou ses convictions politiques.

À Northeastern, un étudiant a créé une pétition en ligne exigeant que l’université retire tous les appareils Alexa. On peut y lire en partie ce qui suit : « Les Alexas sont bien reconnus comme des dispositifs d’écoute clandestins qui sont utilisés pour aider à affiner les tactiques de marketing d’Amazon … À tout le moins, la Northeastern University impose un dispositif étranger dans les espaces étudiants que personne n’a demandé. Au pire, ils violent imprudemment la vie privée de leurs étudiants à la demande d’une entreprise donatrice. » Au début de décembre, la pétition comptait 125 signatures.

À Emerson, les étudiants et d’autres membres de la faculté se sont joints à Newman pour créer un comité chargé de rédiger des politiques de protection de la vie privée pour le campus. À tout le moins, dit-il, il aimerait que des panneaux d’avertissement soient placés partout où se trouve un dispositif d’écoute. Il dit que jusqu’à présent, l’administration a été coopérative et que le déploiement de tout dispositif a été retardé.

 » Nous avons besoin d’un moyen sûr d’expérimenter ces technologies et de comprendre les conséquences de leur utilisation, au lieu de continuer une marche aveugle vers la surveillance dans un but lucratif « , dit Russell Newman.  » Il s’agit d’applications sophistiquées qui ont des conséquences à vie pour les individus qu’elles analysent, à des fins encore inconnues. Nous devons tous être vraiment judicieux et réfléchis ici ».

https://www.technologyreview.com/s/614937/colleges-smart-speakers-in-dorms-privacy/