« Un seul mot : hallucination. »
Alors que le gouvernement fédéral américain poursuit son projet controversé de déploiement d’un système de contrôle aérien basé sur l’IA dans certains des aéroports les plus fréquentés du pays, un ancien contrôleur aérien dénonce les risques sans précédent que cela implique.
Lors d’une intervention sur News Nation , Todd Sheridan Yeary, contrôleur aérien depuis 13 ans, a clairement indiqué que le nouveau système – appelé Strategic Management of Airspace, Routes and Trajectories, ou SMART – est encore mal compris, car la communauté aéronautique se pose toujours des questions fondamentales sur la manière dont il sera réellement utilisé.
« La première question qui me vient à l’esprit est : à quoi va servir cet outil ? » a demandé Yeary. La question de savoir si SMART sera utilisé comme outil de prédiction ou comme substitut prescriptif aux décisions humaines reste ouverte, et la réponse est cruciale pour quiconque se soucie de la sécurité aérienne.
« Si l’IA doit être plus prescriptive quant à la résolution des conflits sur les aérodromes, notamment dans les aéroports à fort trafic… c’est une autre question, car le contrôle aérien est un environnement dynamique », a déclaré Yeary. « On ne peut pas se contenter d’y intégrer des données et s’attendre à ce qu’elles restent pertinentes, car les conditions de contrôle aérien évoluent constamment. Je veux donc voir comment ils comptent l’utiliser, mais je suis quelque peu sceptique et très prudent quant à son utilité actuelle. »
Interrogé sur ce qui le préoccupait le plus, Yeary a répondu à News Nation en un seul mot : « hallucination ».
« On sait que l’IA produit des données et des informations inexactes et non vérifiées. Quelles seront donc les sources de ces informations ? » s’est-il inquiété. « Si elles proviennent des horaires de vols, c’est une chose… mais il faut prévoir une possibilité de dérogation, et cette dérogation doit venir du contrôleur aérien de service. »
Évoquant le déploiement prévu — le « lancement en douceur » de SMART se fera d’abord sur l’aérodrome extrêmement fréquenté de la région métropolitaine de Washington — Yeary n’a pas mâché ses mots : « tout autre moyen qu’un simulateur pour déployer ce système pose problème. »
« Tant que nous n’aurons pas eu l’occasion de tester concrètement dans des conditions proches de la réalité, il est très difficile d’affirmer que nous nous fierons à ces informations lors d’un exercice en temps réel », a déclaré Yeary. « Je pense qu’il y a encore beaucoup d’inconnues, et je ne souhaite pas avoir à les découvrir en plein milieu d’une situation qui se déroule en direct dans un aéroport. »
Le déploiement de SMART intervient dans un contexte de panne majeure des communications aériennes survenue lundi, lorsqu’une ligne de télécommunications essentielle et sa redondance ont été simultanément interrompues près de Philadelphie. Le chaos qui s’en est suivi a entraîné des retards de plusieurs heures pour des centaines d’avions sur la côte est et a soulevé d’importantes questions quant à la capacité du système de contrôle aérien américain, déjà fragile, et de son personnel surchargé de travail, à supporter la charge d’un système d’IA hautement expérimental.
