Un gouvernement n’est en général pas la meilleure place pour faire preuve d’innovation dans l’IT ou les nouvelles technologies comme l’intelligence artificielle. Mais Ott Velsberg pourrait vous faire changer d’avis. En tant que responsable des données en chef de l’Estonie, cet étudiant diplômé de 28 ans supervise les efforts déployés par ce petit pays balte pour intégrer l’intelligence artificielle et l’apprentissage automatique dans les services fournis à ses 1,3 million de citoyens.
« Nous voulons que le gouvernement soit aussi maigre que possible « , déclare le chercheur estonien, qui écrit sa thèse de doctorat à l’université suédoise d’Umeå sur l’utilisation de l’Internet des objets et des données des capteurs dans les services gouvernementaux. Le gouvernement estonien a engagé Ott Velsberg en août dernier pour mettre en œuvre un nouveau projet visant à introduire l’IA dans divers ministères afin de rationaliser les services offerts aux résidents.
Le déploiement de l’IA est crucial, dit-il. « Certains craignent que si nous réduisons le nombre d’employés civils, la qualité du service en souffrira. Mais l’agent IA nous aidera. » Environ 22% des Estoniens travaillent pour le gouvernement ; c’est à peu près la moyenne des pays européens, mais c’est plus élevé que le taux de 18% aux Etats-Unis.
Siim Sikkut, directeur de l’information de l’Estonie, a commencé à piloter plusieurs projets basés sur l’intelligence artificielle dans des agences en 2017, avant d’engager Ott Velsberg l’année dernière. Ce dernier indique que l’Estonie a déployé l’IA ou l’apprentissage machine dans 13 endroits où un algorithme a remplacé les fonctionnaires.
Par exemple, les inspecteurs ne vérifient plus les agriculteurs qui reçoivent des subventions gouvernementales pour couper leurs champs de foin chaque été. Les images satellitaires prises par l’Agence spatiale européenne chaque semaine de mai à octobre sont introduites dans un algorithme d’apprentissage profond (deep learning) développé à l’origine par l’Observatoire de Tartu. Les images sont superposées sur une carte des champs où les agriculteurs reçoivent des subventions pour la coupe du foin afin de les empêcher de transformer les forêts au fil du temps.
L’algorithme évalue chaque pixel des images, en déterminant si la parcelle du champ a été coupée ou non. Le pâturage ou la réduction partielle du bétail peut nuire au traitement de l’image ; dans ces cas, un inspecteur se déplace quand même pour vérifier. Deux semaines avant la date limite de tonte, le système automatisé avise les agriculteurs par texte ou par courriel qui comprend un lien vers l’image satellite de leur champ. Le système a permis d’économiser 665 000 € au cours de sa première année, car les inspecteurs ont effectué moins de visites sur place et se sont concentrés sur d’autres mesures d’application, selon Ott Velsberg.
Dans une autre application, les curriculum vitae des travailleurs licenciés sont introduits dans un système d’apprentissage automatique qui correspond à leurs compétences avec les employeurs. Environ 72% des travailleurs qui obtiennent un nouvel emploi grâce au système sont toujours au travail après six mois, comparativement à 58 % avant le déploiement du système de jumelage informatique.
Dans un troisième cas, les enfants nés en Estonie sont automatiquement inscrits dans les écoles locales à la naissance, de sorte que les parents n’ont pas à s’inscrire sur des listes d’attente ou à appeler les administrateurs scolaires. C’est parce que les dossiers des hôpitaux sont automatiquement partagés avec les écoles locales. Le système n’a pas vraiment besoin d’IA, mais il montre comment les services automatisés se développent.
Dans le cadre du projet le plus ambitieux à ce jour, le ministère estonien de la Justice a demandé à Ott Velsberg et à son équipe de concevoir un » juge robot » qui pourrait statuer sur les litiges portant sur de petites créances de moins de 7 000 €. Les fonctionnaires espèrent que le système pourra résorber l’arriéré d’affaires pour les juges et les greffiers.
Le projet en est à ses débuts et débutera probablement plus tard cette année avec un projet pilote axé sur les différends contractuels. En principe, les deux parties téléchargeront des documents et d’autres informations pertinentes, et l’IA rendra une décision qui pourra faire l’objet d’un appel devant un juge humain. De nombreux détails restent à régler. Ott Velsberg indique que le système devra peut-être être modifié après avoir reçu les commentaires des avocats et des juges.
L’effort de l’Estonie n’est pas le premier à mélanger l’intelligence artificielle et la loi, bien qu’il puisse être le premier à donner un pouvoir décisionnel algorithmique. Aux États-Unis, les algorithmes aident à recommander des condamnations pénales dans certains États. Il y a quelques années, le chatbot à base d’IA, DoNotPay, basé au Royaume-Uni, a rejeté 160 000 contraventions de stationnement à Londres et à New York.
Un cabinet d’avocats basé à Tallinn, Eesti Oigusbüroo, fournit une aide juridique gratuite par le biais d’un chatbot et génère des documents juridiques simples à envoyer aux agences de recouvrement. Elle prévoit d’étendre son service d’aide juridique « Hugo-AI » à Varsovie et à Los Angeles d’ici la fin de l’année, a déclaré Artur Fjodorov, directeur général.
L’idée d’un juge robot pourrait fonctionner en Estonie en partie parce que ses 1,3 million d’habitants utilisent déjà une carte d’identité nationale et sont habitués à un menu en ligne de services tels que le vote électronique et la déclaration fiscale numérique.
Les bases de données gouvernementales se connectent les unes aux autres par le biais d’une infrastructure numérique appelée X-road, qui facilite le partage des données. Les résidents estoniens peuvent également vérifier qui a accédé à leurs informations en se connectant à un portail numérique gouvernemental.
Le passage bien documenté de l’Estonie aux services gouvernementaux numériques ne s’est pas déroulé sans au moins un pépin. Des experts extérieurs ont révélé une vulnérabilité du système d’identification de l’Estonie en 2017, ce qui a entraîné un certain embarras ; il a été corrigé et les cartes d’identité ont été remplacées.
Mais les représentants du gouvernement affirment que le pays n’a pas connu d’atteinte majeure à la protection des données ou de vol depuis qu’il a commencé à utiliser son évolution numérique au début des années 2000. En 2016, plus des deux tiers des adultes estoniens ont rempli des formulaires gouvernementaux sur Internet, soit près du double de la moyenne européenne.
« Les choses vraiment privées et confidentielles ne sont pas entre les mains du gouvernement, mais entre celles des banques et des télécoms « , explique Tanel Tammet, professeur d’informatique à l’Université technologique de Tallinn. Ce dernier est membre d’un groupe de travail du gouvernement estonien sur la grippe aviaire qui présentera ses conclusions en mai et proposera 35 autres projets de démonstration sur la grippe aviaire d’ici 2020.
David Engstrom, de l’Université de Stanford, un expert en gouvernance numérique, affirme que les citoyens estoniens pourraient faire confiance au gouvernement pour l’utilisation de leurs données numériques aujourd’hui, mais les choses pourraient changer si l’un des nouveaux systèmes décisionnels basés sur l’IA tourne mal.
Aux États-Unis, des organismes comme la Social Security Administration utilisent l’IA et les algorithmes d’apprentissage automatique pour accélérer le tri et le traitement, tandis que l’EPA utilise l’IA pour déterminer quelles usines devraient être inspectées pour déceler les infractions de pollution. Mais, selon David Engstrom, un effort coordonné de lutte contre la grippe aviaire dans l’ensemble du gouvernement fédéral a progressé lentement, principalement parce que les bases de données fédérales de chaque organisme sont différentes et ne sont pas facilement partagées avec d’autres organismes. « Nous n’en sommes pas encore là », a-t-il dit.
David Engstrom et une équipe d’étudiants en droit et en informatique de Stanford étudient comment l’intelligence artificielle peut être mieux utilisée dans les agences gouvernementales américaines. Ils rendront bientôt compte de leurs conclusions à la Conférence administrative des États-Unis, un organisme fédéral indépendant chargé de recommander des améliorations aux processus administratifs.
Il ne voit pas de sitôt un robot-juge piloté par l’IA venir devant les tribunaux américains. Les États-Unis n’ont pas de système national d’identification et beaucoup d’Américains ont une crainte innée du grand gouvernement. « Nous avons l’application régulière de la loi dans la Constitution et cela a quelque chose à dire sur la prise de décision entièrement automatisée par un organisme gouvernemental « , a dit David Engstrom. « Même avec un attrait humain, il pourrait y avoir une contrainte. »
Malgré tout, David Engstrom prévoit qu’à un moment donné, des assistants juridiques motivés par l’IA pourraient présenter aux juges la jurisprudence, les précédents et le contexte nécessaire pour prendre une décision. « La promesse d’une approche d’IA, c’est que vous obtenez plus de cohérence que nous n’en avons actuellement « , dit-il. « Et peut-être un système d’intelligence artificielle plus précis qu’un système humain de prise de décision. »
Le revers de la médaille, c’est que la qualité d’une IA dépend de la programmation qui y est intégrée. Les algorithmes de détermination de la peine, par exemple, ont été critiqués pour leur partialité à l’égard des Noirs.
« Vous vous inquiétez aussi du biais d’automatisation « , dit David Engstrom. À mesure que les machines prennent de plus en plus de décisions, les humains sont moins susceptibles d’injecter leur propre expertise dans un système, dit-il. « C’est l’une de ces choses rampantes dont s’inquiètent les défenseurs de la vie privée et du bon gouvernement quand le gouvernement numérise de cette façon. »
Pour l’instant, cependant, les responsables estoniens apprécient l’idée d’un robot d’IA pour résoudre des conflits simples, laissant plus de temps aux juges humains et aux avocats pour résoudre des problèmes plus difficiles. Le déploiement d’un plus grand nombre d’IA dans les services gouvernementaux » nous permettra de nous spécialiser dans quelque chose que les machines ne pourront jamais faire « , a déclaré le président Kersti Kaljulaid lors de la récente conférence North Star AI à Tallinn. « Je veux me spécialiser dans le fait d’être un être humain chaleureux et compatissant. Pour cela, nous avons besoin de l’IA pour être en sécurité, et manifestement en sécurité. »
https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/
https://ec.europa.eu/jrc/sites/jrcsh/files/bleive.pdf
https://www.techrepublic.com/article/how-estonia-became-an-e-government-powerhouse/
https://law.stanford.edu/education/only-at-sls/law-policy-lab/practicums-2018-2019/administering-by-algorithm-artificial-intelligence-in-the-regulatory
