Est-ce que nous donnons vie à l'IA à travers le langage ?

Penser, savoir, comprendre, se souvenir. Ce ne sont là que quelques-uns des verbes mentaux que nous utilisons quotidiennement pour décrire nos activités mentales. Or, lorsque nous employons ces mêmes mots pour parler d'intelligence artificielle, nous risquons, involontairement, de donner à l'IA une apparence presque humaine.

« Nous utilisons constamment des verbes mentaux dans notre vie quotidienne, il est donc logique que nous les utilisions également lorsque nous parlons de machines ; cela nous aide à mieux les comprendre », explique Jo Mackiewicz, professeure d’anglais à l’université d’État de l’Iowa aux Etats-Unis. « Mais en même temps, appliquer des verbes mentaux aux machines comporte le risque d’estomper la frontière entre les capacités des humains et celles de l’IA. »

Mackiewicz et Jeanine Aune, professeure d'anglais et directrice du programme de communication avancée à l'Iowa State University, font partie d'une équipe de recherche qui a récemment examiné comment les auteurs utilisent un langage anthropomorphique — des mots qui attribuent des caractéristiques humaines à des choses non humaines — lorsqu'ils écrivent sur les systèmes d'IA.

Les résultats de leur nouvelle étude, « Anthropomorphizing Artificial Intelligence: A Corpus Study of Mental Verbs Used with AI and ChatGPT », sont publiés dans Technical Communication Quarterly .

L'équipe de recherche comprenait également Matthew J. Baker, professeur agrégé de linguistique à l'université Brigham Young, et Jordan Smith, maître de conférences en anglais à l'université du Colorado du Nord. Baker et Smith sont tous deux diplômés de l'université d'État de l'Iowa.

Comment les verbes mentaux peuvent induire en erreur

L'anthropomorphisme des verbes mentaux peut induire en erreur lorsqu'il s'agit de décrire l'IA, car il suggère que les machines possèdent une vie intérieure semblable à celle des humains, expliquent Mackiewicz et Aune. Des mots comme « penser », « savoir », « comprendre » et « vouloir » évoquent des croyances, des désirs ou une conscience. Or, les systèmes d'IA ne possèdent rien de tout cela ; ils génèrent des résultats à partir de schémas, et non de sentiments ou d'intentions.

Mackiewicz et Aune ont également souligné que les verbes mentaux peuvent, involontairement, surestimer les capacités de l'IA. Par exemple, écrire « l'IA a décidé » ou « ChatGPT sait » peut donner l'impression que le système est plus autonome ou intelligent qu'il ne l'est réellement et fausser les attentes quant à ce qu'il peut faire en toute sécurité et de manière fiable. Si l'on parle de l'IA comme si elle avait des intentions, ont ajouté les deux chercheurs de l'ISU, on risque d'oublier les véritables décideurs : les personnes qui conçoivent, entraînent, déploient et supervisent les systèmes d'IA.

« Certaines expressions anthropomorphiques peuvent même rester gravées dans l'esprit des lecteurs et potentiellement influencer négativement la perception du public à l'égard de l'IA », a déclaré Aune.

Des mots sur des mots

Dans leurs recherches, Mackiewicz, Aune et leur équipe ont utilisé le corpus News on the Web (NOW), un ensemble de données de plus de 20 milliards de mots qui présente une collection constamment mise à jour d'articles de presse en anglais provenant de 20 pays, pour étudier la fréquence à laquelle les rédacteurs de journaux associent des verbes mentaux anthropomorphisants — comme learns, means et knows — aux termes AI et ChatGPT.

Les résultats, ont déclaré Mackiewicz et Aune, ont surpris l'équipe de recherche.

Dans leur analyse, l'équipe a identifié trois principaux constats :

1. Les termes IA et ChatGPT sont rarement associés à des verbes mentaux dans les articles de presse.

Bien qu'il n'existe pas d'étude définitive sur l'anthropomorphisme global dans le langage parlé et écrit, les recherches existantes nous apportent quelques éléments de réponse, a déclaré Mackiewicz. « L'anthropomorphisme est fréquent dans le langage courant, mais nous avons constaté qu'il est beaucoup moins utilisé dans les articles de presse », a-t-elle précisé.

Dans l'analyse de l'équipe de recherche, « besoins » a été identifié comme le verbe mental le plus fréquemment associé au terme IA, apparaissant 661 fois au total, tandis que « sait » était le verbe mental le plus fréquemment associé au terme ChatGPT, apparaissant seulement 32 fois.

Mackiewicz et Aune ont également noté que les directives de l'Associated Press visant à éviter d'associer des émotions humaines aux capacités des modèles d'IA ont peut-être eu un impact sur la fréquence à laquelle les journalistes ont utilisé des verbes mentaux avec les termes IA et Chat GPT ces dernières années.

2. Lorsque les termes IA et ChatGPT étaient associés à des verbes mentaux, ils n’étaient pas nécessairement anthropomorphisés .

L'analyse de l'équipe de recherche a révélé que les auteurs utilisaient le verbe mental « besoin », par exemple, de deux manières principales lorsqu'ils parlaient d'IA. Dans de nombreux cas, « besoin » décrit simplement ce dont l'IA a besoin pour fonctionner, comme « l'IA a besoin de grandes quantités de données » ou « l'IA a besoin d'une certaine assistance humaine ». Ces emplois n'étaient pas anthropomorphiques car ils traitaient l'IA de la même manière que nous parlons d'autres systèmes non humains : « la voiture a besoin d'essence » ou « la soupe a besoin de sel ».

Deuxièmement, les auteurs utilisaient parfois le terme « besoins » d'une manière qui suggérait une obligation de faire ou d'être quelque chose — « L'IA doit être entraînée » ou « L'IA doit être mise en œuvre ». Aune a déclaré que nombre de ces exemples étaient rédigés à la voix passive, ce qui reportait la responsabilité sur les humains et non sur l'IA.

3. L’anthropomorphisation avec des verbes mentaux existe sur un spectre .

Mackiewicz et Aune ont indiqué que l'équipe de recherche avait également constaté que, parfois, l'emploi du terme « besoins » s'apparentait davantage à un langage humain. Certaines phrases, comme « L'IA a besoin de comprendre le monde réel », sous-entendaient des attentes ou des qualités propres aux êtres humains, telles que l'équité, l'éthique ou une compréhension personnelle du monde qui nous entoure.

« Ces exemples ont montré que l’anthropomorphisme n’est pas une question de tout ou rien, mais qu’il existe plutôt sur un spectre », a déclaré Aune.

Écrire l'avenir

« Globalement, notre analyse montre que l'anthropomorphisme de l'IA dans les articles de presse est beaucoup moins fréquent – ​​et beaucoup plus nuancé – qu'on ne le pense », a déclaré Mackiewicz. « Même les cas où l'IA est anthropomorphisée varient considérablement en intensité. »

Les conclusions de l'étude, ont déclaré Mackiewicz et Aune, soulignent l'importance d'aller au-delà du simple décompte des verbes et de prendre en compte la manière dont le sens découle du contexte.

« Pour les écrivains, cette nuance est importante : le langage que nous choisissons influence la façon dont les lecteurs comprennent les systèmes d'IA, leurs capacités et les humains qui en sont responsables », a déclaré Mackiewicz.

« Nos conclusions peuvent aider les professionnels de la communication technique et professionnelle à réfléchir à la manière dont ils envisagent les technologies d'IA comme des outils dans leur processus d'écriture et à la manière dont ils écrivent sur l'IA », a écrit l'équipe de recherche dans l'étude publiée.

À mesure que les technologies d'IA continuent d'évoluer, les auteurs devront constamment réfléchir à la manière dont leurs choix de mots peuvent mettre en valeur ces technologies, ont déclaré Mackiewicz et Aune.

L'équipe a conclu que les recherches futures « pourraient examiner l'impact anthropomorphisant de différents mots et de leurs sens » et « étudier si un usage peu fréquent a un effet disproportionné sur la façon dont les gens, y compris les journalistes et autres professionnels de la communication, perçoivent l'IA ».

https://www.news.iastate.edu/news/are-we-giving-ai-pulse-through-language