En 2017, la Chine a dévoilé un plan directeur ambitieux pour être le leader mondial dans la recherche et le déploiement de l’IA d’ici 2030. La feuille de route vise non seulement à élargir la recherche et le développement de la technologie de l’IA mais aussi à la mettre en œuvre dans tous les secteurs de la société, de l’industrie à l’urbanisme. Il a été révélé récemment que plusieurs nouvelles innovations technologiques sont actuellement testées dans des écoles chinoises qui redéfinissent la façon dont les enfants peuvent être éduqués au 21ème siècle.
Alors que le déploiement plus large de logiciels de reconnaissance faciale en Occident est en proie à des controverses sur la précision et l’éventuel préjugé racial, la Chine progresse dans la mise en œuvre publique avec plusieurs récits récents soulignant comment les autorités utilisent la nouvelle technologie. Un rapport récent d’une source médiatique de l’Etat a révélé qu’une école secondaire de l’est de la Chine est en train de tester un nouveau système de reconnaissance faciale conçu pour analyser l’engagement des élèves dans une salle de classe, en temps réel.
Le «système intelligent de gestion du comportement en classe» scanne la pièce toutes les 30 secondes en enregistrant à la fois le comportement des élèves et leurs expressions faciales. Le système peut identifier sept humeurs, y compris heureux, triste, effrayé et en colère, en analysant simplement le visage d’un étudiant. Une caméra, perchée sur le tableau à l’avant de la salle de classe, suit six types de comportement: lire, écrire, lever la main, se lever, écouter l’enseignant et s’appuyer sur le bureau.
On ne sait pas quel est le but ultime de la technologie, mais Zhang Guanchao, vice-directeur de l’école, affirme que le système aide à la fois à la fréquentation scolaire des étudiants et aide les enseignants à affiner leurs méthodes d’enseignement. Bien qu’il soit juste de dire que la technologie pourrait être extrêmement utile pour aider les enseignants à optimiser leurs cours afin de maximiser l’engagement des élèves, le système pourrait facilement être utilisé pour surveiller les élèves et pénaliser ceux qui se relâchent.
Un élève de l’école d’essai a déclaré: «Auparavant, lorsque j’avais des cours que je n’aimais pas beaucoup, je me sentais paresseux et je faisais une sieste sur le bureau ou feuilletais d’autres manuels. Mais je ne peux plus être distrait puisque les caméras ont été installées dans les salles de classe, c’est comme si deux yeux mystérieux me regardaient constamment ».
Les sept humeurs que le système de reconnaissance faciale peut suivre chez les étudiants
Dans une mise en œuvre encore plus frappante et généralisée de l’IA dans le système éducatif, un rapport récent du South China Morning Post (SCMP) affirmait qu’une école chinoise sur quatre expérimentait des logiciels pour classer les mémoires des élèves. Le logiciel d’apprentissage automatique aurait été en développement pendant près d’une décennie en utilisant des algorithmes d’apprentissage profond pour constamment apprendre et améliorer sa capacité à comprendre et évaluer le travail d’un étudiant.
On estime actuellement que 60 000 écoles testent la technologie et qu’elle pourrait offrir le même niveau de notation qu’un être humain jusqu’à 92% du temps. Un chercheur travaillant sur le projet a déclaré au SCMP: « Elle a évolué continuellement et est devenue si complexe, que nous ne savons plus avec certitude ce qu’elle pensait et comment elle faisait un jugement. »
Les systèmes de notation automatisés ne sont pas une idée entièrement nouvelle. Alors que les logiciels de notation assistés par ordinateur existent depuis presque aussi longtemps que les ordinateurs, ce n’est que depuis une décennie ou deux que les ordinateurs ont commencé à être utilisés pour noter des travaux d’étudiants plus abstraits, comme la rédaction argumentative. Le débat en Occident fait rage sur la façon dont les systèmes de classification des machines sont appropriés, en dépit de l’amélioration censée s’améliorer à des niveaux impressionnants. Mais en Chine, ces systèmes pourraient être mis en œuvre avec des degrés d’échelle sans précédent dans le monde.
La Chine entraine actuellement son système de notation à base de réseau neuronal dans un serveur central qui compile le travail de millions d’étudiants. Tout en promettant un moyen potentiel de supprimer les variations attribuées par la subjectivité humaine à la notation, ce système offre sans aucun doute au gouvernement central une capacité remarquable à suivre en temps réel les progrès de tous les étudiants du pays.
Et ce suivi effroyablement complet de son système éducatif pourrait inévitablement être synchronisé avec le «système de crédit social» du pays qui devrait être pleinement opérationnel d’ici 2020. Ce système proposé assignera à chaque citoyen un score de crédit social qui déterminera la capacité de voyager à l’étranger, obtenir un prêt immobilier, ou même accéder à Internet.
Les scores de crédit social peuvent fluctuer en fonction de la façon dont une personne respecte ce que le gouvernement considère comme de bons comportements sociaux. Le système a été testé dans un certain nombre de provinces pendant plusieurs années et une école a récemment été signalée comme interdisant l’inscription de nouveaux élèves dont les parents ont de faibles scores de crédit social.
Il n’est pas difficile d’imaginer un système où bon nombre de ces nouvelles technologies d’IA à l’école s’intégreront au système de crédit social bientôt répandu.
L’insistance de la Chine à intégrer les systèmes d’IA dans l’ensemble de son écosystème social sans aucun recul ni surveillance de la part d’organismes indépendants transforme le pays entier en une expérience sociale massive. La façon dont l’expérience se déroulera est à la portée de tous, mais son objectif de devenir un leader mondial de l’IA d’ici 2030 est certainement réalisable … pour le meilleur ou pour le pire.
https://www.cnbc.com/2017/07/21/china-ai-world-leader-by-2030.html
http://en.people.cn/n3/2018/0519/c90000-9461918.html
https://www.engadget.com/2018/05/17/chinese-school-facial-recognition-kids-attention/?guccounter=1
