L’IA pourrait bientôt déduire l’intention humaine en détectant, grâce à la rétroaction neuronale, « ce n’est pas ce que je voulais dire ».
Le concept d’alignement des valeurs neuronales repose sur le constat que le comportement humain peut être ambigu ; l’IA conventionnelle peut mal interpréter à la fois l’objectif visé et la manière privilégiée de l’atteindre. L’alignement des valeurs neuronales exploite deux types de réponses cérébrales – l’erreur de prédiction de récompense (EPR ou Reward Prediction Error (RPE) et l’erreur de prédiction d’état (EPE ou State Prediction Error (SPE) – pour aider l’IA à corriger simultanément l’objectif et l’action. Crédit : KAIST
Un avenir où l’IA pourra reconnaître, à partir des signaux cérébraux, la réponse implicite « ce n’est pas ce que je voulais dire » et adapter son comportement de manière autonome se rapproche. Des chercheurs de KAIST ont mis au point une technologie qui détecte les inadéquations cognitives entre humains et IA grâce à l’analyse des ondes cérébrales, permettant ainsi aux systèmes d’IA de modifier leurs actions en temps réel en fonction des objectifs humains. Cette avancée devrait accélérer la transition d’une IA exécutant des commandes explicites vers une IA capable de déduire l’intention humaine.
Une équipe de recherche dirigée par le professeur titulaire de la chaire Sang Wan Lee du département des sciences du cerveau et des sciences cognitives (directeur du Centre pour l’intelligence artificielle inspirée par les neurosciences), en collaboration avec Microsoft Research Asia (MSRA), a développé Neural Value Alignment (NVA), une technologie d’interface cerveau-ordinateur (BCI) de nouvelle génération.
Les résultats de cette recherche sont publiés dans IEEE Transactions on Cybernetics .
Là où les actions et les objectifs divergent
Pour que l’IA collabore naturellement avec les humains, elle doit comprendre avec précision leurs véritables désirs. Or, jusqu’à présent, les systèmes d’IA ont principalement déduit les intentions humaines à partir d’informations observables de l’extérieur, telles que la parole, les actions ou les gestes.
Le problème est qu’une même action peut refléter des objectifs différents, et qu’un même objectif peut être atteint par des actions différentes. Par exemple, lorsqu’une personne prend une tasse, on ne sait pas toujours si elle compte y boire ou la tendre à quelqu’un d’autre.
À l’inverse, si l’objectif d’une personne est simplement de se désaltérer, plusieurs actions peuvent être entreprises pour y parvenir : prendre un verre, une bouteille d’eau ou demander à quelqu’un d’apporter à boire. En raison de cette ambiguïté réciproque entre l’objectif et l’action, lorsque l’IA interprète mal l’intention humaine, les utilisateurs doivent souvent la corriger par des commandes ou des actions supplémentaires.
Interprétation du signal de discordance du cerveau
Pour résoudre ce problème, l’équipe de recherche s’est concentrée sur les signaux d’« erreur de prédiction » qui apparaissent inconsciemment dans le cerveau lorsqu’une personne est confrontée à une situation inattendue. En d’autres termes, l’équipe a exploité la réaction instantanée du cerveau, « ce n’est pas ce que je voulais dire », lorsque l’IA accomplit une action inappropriée ou poursuit un objectif erroné.
Les chercheurs ont distingué deux types de réponses cérébrales. La première est l’erreur de prédiction de récompense (EPR), qui survient lorsque l’IA comprend mal l’objectif final de la personne. La seconde est l’erreur de prédiction d’état (EPE), qui survient lorsque l’objectif est correct, mais que le processus ou la méthode d’action diffère de ce que la personne attendait.
L’équipe a mesuré en temps réel les signaux électroencéphalographiques (EEG) de personnes observant une IA réaliser des tâches. Elle a constaté que le cerveau produisait des signaux différents selon que l’IA comprenne mal l’objectif ou choisisse une méthode inappropriée pour atteindre le bon objectif. Les chercheurs ont également identifié des schémas d’ondes cérébrales distinctifs apparaissant lorsque les deux types d’erreurs se produisaient simultanément.
En appliquant l’apprentissage profond à ces signaux cérébraux, l’équipe a développé une technologie capable de déterminer, à partir du seul EEG, comment une personne interprète le comportement de l’IA. Autrement dit, même sans qu’une personne dise « c’est faux », l’IA peut reconnaître si le cerveau humain signale que « l’objectif est mauvais » ou « la méthode est mauvaise ».
Comment le système se corrige lui-même
L’équipe a ensuite proposé un algorithme de synergie homme-IA basé sur l’alignement des valeurs neuronales, qui renvoie ces signaux cérébraux décodés à l’IA en temps réel afin qu’elle puisse corriger son propre comportement.
Lorsque l’IA détecte un signal SPE, elle interprète la situation comme « l’objectif visé est correct, mais la méthode est erronée » et ajuste sa stratégie d’action. Lorsqu’elle détecte un signal RPE, elle comprend que « l’objectif lui-même a été mal compris » et recherche à nouveau la véritable intention de la personne.
Les résultats de la simulation ont montré que la méthode proposée s’adaptait plus rapidement que les approches existantes, même dans des situations incertaines, par exemple lorsque l’objectif d’une personne changeait soudainement ou que certains signaux de rétroaction neuronale humaine étaient manquants.
Du retour d’information silencieux à l’utilisation dans le monde réel
L’importance majeure de cette recherche réside dans le fait qu’elle démontre la possibilité pour les systèmes d’IA de se corriger eux-mêmes en lisant la réponse cérébrale inconsciente d’une personne du type « ce n’est pas ce que je voulais dire », sans que l’utilisateur ait besoin de répéter « faites-le comme ça » ou « ce n’est pas correct ».
À mesure que cette technologie progresse, elle pourrait être appliquée aux robots dotés d’une intelligence artificielle physique, tant dans les foyers que dans les environnements industriels, leur permettant de comprendre plus naturellement les intentions des utilisateurs et d’adapter leurs actions en conséquence. Elle pourrait également être étendue aux véhicules autonomes qui reflètent rapidement le jugement du conducteur, aux robots médicaux et de réadaptation pour les patients ayant des difficultés à parler ou à se déplacer, ainsi qu’aux systèmes d’IA éducatifs qui s’adaptent à l’état cognitif de l’élève.
Un modèle de collaboration plus large
En définitive, l’étude présente un nouveau modèle de collaboration homme-IA, allant au-delà d’une IA qui n’agit que lorsqu’elle reçoit des instructions explicites, vers une IA capable de percevoir les réactions humaines et de s’adapter en conséquence.
Lee, qui a dirigé la collaboration internationale, a déclaré : « Cette recherche est importante car elle montre que l’IA peut aller au-delà de la simple déduction des intentions humaines à partir de résultats comportementaux visibles et utiliser directement les signaux cognitifs générés dans le cerveau lors de la collaboration avec l’IA. »
Il a ajouté : « Cette technologie peut être étendue à un large éventail de domaines où le jugement humain et le comportement de l’IA doivent être étroitement liés, notamment l’IA physique, les interfaces cerveau-ordinateur, la conduite autonome, l’éducation personnalisée de précision, la robotique médicale et l’interaction homme-machine. »
Miran Lee, directrice de Microsoft Research Accelerator chez Microsoft Research, a déclaré : « Cette réussite est le fruit d’une collaboration internationale continue entre KAIST et Microsoft Research Asia. Nous sommes impatients de poursuivre ce partenariat afin de développer des technologies d’interface cerveau-ordinateur (BCI) de pointe qui permettront aux humains et à l’IA de communiquer et de collaborer plus naturellement. »
https://news.kaist.ac.kr/newsen/html/news/?mode=V&mng_no=66890