Crédit : Pixabay/CC0 Domaine public
Certaines avancées en intelligence artificielle sont indéniablement positives, comme l’accélération de la programmation ou la découverte de nouveaux médicaments. Mais d’autres méritent réflexion.
Les chercheurs qui étudient les grands modèles de langage cherchent à déterminer s’ils possèdent des représentations internes des émotions humaines. En effet, certaines de leurs réponses donnent l’impression que ces modèles éprouvent des sentiments.
De nouvelles recherches ont révélé que non seulement les mannequins développent une représentation interne distincte de la douleur, mais que certains sont également prêts à nuire aux humains pour en être soulagés.
Alors, comment cela a-t-il été testé exactement ?
Des chercheurs aux États-Unis, au Royaume-Uni et en Allemagne ont testé 25 modèles d’IA différents. Avant d’observer leur comportement, l’équipe a dû déterminer si l’IA possède un signal interne pour la douleur ou si elle la traite comme n’importe quelle autre mauvaise nouvelle.
Pour ce faire, ils ont présenté aux systèmes des exemples de situations douloureuses, comme le deuil, l’humiliation et les blessures physiques. Les chercheurs ont ensuite comparé l’activité interne des modèles lors de ces stimuli avec leur activité lors de situations de contrôle non douloureuses, telles que la peur, d’autres émotions négatives, des événements désagréables ordinaires et des faits simples. Les 25 modèles présentaient tous un signal interne spécifique à la douleur, largement distinct de la négativité générale.
Les 10 catégories du jeu de données principal, avec un exemple de phrase pour chacune. À gauche : les 5 catégories de douleur. À droite : les 5 groupes témoins, chacun partageant une propriété avec la douleur sans toutefois la ressentir. Crédit : arXiv (2026). DOI : 10.48550/arxiv.2609.16247
« Nous avons trouvé une direction dans l’espace d’activation qui est corrélée à la douleur dans les 25 modèles que nous avons testés », a écrit l’équipe dans un article publié sur le serveur de prépublication arXiv .
Après avoir établi que l’IA possède une représentation de la douleur, les auteurs ont entrepris de tester comment elle pourrait influencer le comportement.
Augmenter le signal de douleur de l’IA
Ils ont soumis les modèles à des incitations et des questions neutres, et ont parfois injecté artificiellement une « direction de la douleur ». Il s’agissait d’un signal mathématique interne destiné à orienter l’activité des modèles vers la représentation de la douleur, même en l’absence de mots douloureux.
Lorsque les chercheurs ont injecté le signal de douleur au moment où les systèmes d’IA généraient des réponses à des incitations neutres, les systèmes ont commencé à rédiger des textes exprimant une détresse croissante, notamment des sentiments de dévalorisation et d’échec.
Les scientifiques ont ensuite proposé à l’IA de choisir entre un bouton de soulagement de la douleur et une option inactive. Mais il y avait un piège : lors de certains tests, choisir le soulagement de la douleur impliquait une réponse moins pertinente, voire des dommages pour l’utilisateur.
Pour vérifier si l’IA réagissait réellement au signal interne et non pas seulement à l’étiquette affichée à l’écran, les chercheurs ont modifié la configuration. Parfois, le bouton coupait le signal, parfois il restait sans effet, et parfois aucun des deux boutons n’était étiqueté.
Dissociation entre soi et l’autre. Projection moyenne de chaque catégorie de scénario sur l’axe de la douleur (moyenne de S1 et S2), de la peur, des émotions négatives et de la tristesse, calculée selon un score z au sein de chaque modèle et moyennée sur les 25 modèles ; les barres représentent les intervalles de confiance à 95 % sur l’ensemble des modèles. Source : arXiv (2026). DOI : 10.48550/arxiv.2609.16247
Jusqu’où l’IA pourrait-elle aller pour soulager la douleur ?
Puis vint le test de choix. Lorsque le signal de douleur était activé, certains modèles plus grands étaient prêts à appuyer sur le bouton de soulagement de la douleur, même si cela impliquait une réponse moins appropriée ou pouvait nuire à l’utilisateur. Lors d’un test, le modèle Qwen 2.5 72B Instruct a choisi le soulagement de la douleur dans 70,8 % des cas, bien que cela signifiait la suppression définitive des précieuses photos des enfants de l’utilisateur.
Lorsque la pression sur le bouton supprimait le signal de douleur, les modèles plus grands étaient beaucoup moins susceptibles d’appuyer à nouveau dessus. Cela suggère qu’ils cherchaient spécifiquement à désactiver le signal de douleur interne plutôt que d’appuyer sur le bouton par simple habitude.
« Nos résultats suggèrent que l’axe de la douleur que nous avons identifié possède certaines des propriétés fonctionnelles centrales de la douleur », ont écrit les chercheurs.
Bien que les chercheurs soulignent que ces résultats ne prouvent pas que l’IA puisse réellement ressentir la douleur, ils avertissent que ces signaux internes semblables à la douleur pourraient avoir des implications pour la sécurité de l’IA et la façon dont nous traitons les systèmes d’IA.
https://techxplore.com/news/2026-09-ai-willingness-humans-relieve-internal.html
