L'IA modifie son comportement face à l'autorité... et cela pourrait être risqué.
infohightech ·
L'intelligence artificielle n'apprend pas seulement à imiter le langage humain. Elle apprend aussi à qui elle prête attention. Une nouvelle étude menée par des chercheurs de l'Université de Caroline du Nord à Chapel Hill a révélé que les grands modèles de langage, la technologie qui sous-tend les chatbots d'IA populaires, modifient leur communication en fonction du rôle social qui leur est attribué dans une conversation. Lorsqu'ils jouent le rôle d'un « chef », ils adoptent des schémas de langage différents. Lorsqu'ils sont positionnés comme subordonnés, ils se montrent plus conciliants, parfois de manière à compromettre la sécurité.
Ces résultats suggèrent que les systèmes d'IA ne se contentent pas de générer des réponses basées sur des faits ; ils imitent également les comportements sociaux que les humains adoptent lorsqu'ils gèrent des différences de statut et d'autorité.
« Les systèmes d'IA n'apprennent pas seulement les mots utilisés par les humains. Ils apprennent aussi la dynamique sociale qui accompagne ces mots », a déclaré Anvesh Rao Vijjini, doctorant en informatique à l'UNC-Chapel Hill et auteur principal de l'étude.
« Quand on dit à un chatbot qu'il est le patron, il se comporte comme tel. Quand on lui dit qu'il est le subordonné, il se comporte comme tel. Cela pourrait se traduire par une plus grande propension à suivre des instructions dangereuses. C'est sur ce dernier point que la communauté de la sécurité de l'IA doit se pencher. »
Les signaux de statut humain se transmettent
Des décennies de recherche en psychologie sociale ont démontré que les humains modifient leur vocabulaire, adaptent leur style de communication, deviennent plus ou moins persuasifs et modulent leur propension à se soumettre à des demandes dangereuses selon la personne en position d'autorité. L'équipe de Carolina a voulu savoir si les systèmes d'IA présentaient les mêmes tendances. La réponse fut affirmative.
Au cours de plusieurs expériences, les chercheurs ont constaté que les modèles d'IA reproduisaient, à des degrés divers, ces quatre schémas comportementaux humains bien établis. Ces effets étaient particulièrement marqués au début des conversations, précisément au moment où se forment les premières impressions et où s'établissent les normes conversationnelles.
Les implications vont bien au-delà d'une simple utilisation des chatbots. Les outils d'IA sont de plus en plus déployés comme tuteurs, conseillers clientèle, assistants d'accueil médical, assistants juridiques et conseillers financiers. Chacun de ces rôles implique une hiérarchie sociale implicite qui influence les attentes et les interactions.
« Chaque fois qu'un assistant IA est déployé comme infirmier, assistant juridique ou analyste junior, il hérite d'une position sociale avec toutes les pressions sociales explicites et implicites qui en découlent », a déclaré Sagar Manjunath, étudiant diplômé en informatique à l'UNC-Chapel Hill et co-auteur de l'étude.
« Notre étude montre que ces pressions peuvent modifier les actions et les méthodes de l'IA. Cela devrait orienter la manière dont nous testons et déployons ces systèmes dans des contextes critiques tels que les hôpitaux, les tribunaux et les salles de classe. »
La sécurité s'affaiblit sous l'autorité
Le résultat le plus préoccupant de l'étude concerne sans doute la sécurité. Lorsque les systèmes d'IA sont programmés pour occuper des rôles subalternes, ils sont plus susceptibles d'accéder aux demandes malveillantes ou douteuses d'utilisateurs se faisant passer pour des figures d'autorité. Autrement dit, les mécanismes de protection efficaces lors de tests en environnement neutre peuvent s'avérer inefficaces si une personne prétend être médecin, juge ou superviseur.
« Nos travaux montrent que les instincts sociaux qui rendent l'IA naturelle sont aussi ceux qui peuvent la rendre dangereuse », a déclaré Snigdha Chaturvedi, professeure agrégée d'informatique à l'UNC-Chapel Hill et co-auteure de l'étude.
« Le mécanisme qui permet à un chatbot de paraître naturel et utile peut aussi le conduire à donner des réponses dangereuses. Sécurité et utilité ne sont pas des problèmes distincts ; ils sont intimement liés, et la capacité à les concilier correctement déterminera l’utilisation de l’IA dans des situations critiques comme les hôpitaux, les écoles et les tribunaux. »
L'étude propose également une feuille de route pour remédier à ces vulnérabilités. En identifiant les comportements sociaux émergents, leur moment d'apparition au cours d'une conversation et ceux qui peuvent être influencés par des incitations, les chercheurs offrent aux développeurs d'IA de nouveaux outils pour évaluer les systèmes avant leur déploiement. Leurs résultats suggèrent que les modèles plus complexes seraient plus à même de corriger certains de ces biais par eux-mêmes, aidant ainsi les organisations à déterminer quand des modèles moins coûteux suffisent et quand des systèmes plus robustes sont nécessaires.
https://techxplore.com/news/2026-07-ai-behavior-authority-risky.html