Amazon, Google, Meta et OpenAI s’efforcent désormais de rendre les interactions avec l’IA naturelles et conversationnelles. Préparez-vous à voir apparaître des chatbots qui veulent devenir vos amis.
Lors de sa présentation de produits en septembre, les dirigeants d’Amazon n’ont pas manqué de souligner qu’Alexa sera là pour vous en tant qu’ami, grâce à l’injection d’améliorations en matière d’IA. Dave Limp, vice-président senior des services de l’entreprise, a présenté les compétences conversationnelles d’Alexa, en commençant par un échange d’amabilités : « Bonjour », « Comment allez-vous » et « Comment allez-vous ? »
Au fil de la conversation, Dave Limp a fait remarquer que l’appareil Alexa avait été programmé pour connaître son équipe de football préférée, et bien sûr, Alexa avait son propre favori. La conversation ne s’est pas déroulée sans heurts, mais elle a été suffisamment fluide pour permettre à Dave Limp de faire valoir son point de vue : « Les réponses … ont commencé à être imprégnées de personnalité ».
Dans une autre démonstration, Daniel Rausch, vice-président d’Alexa et de Fire TV, a montré comment l’assistant d’intelligence artificielle pouvait aider à trouver un film à regarder en famille. Comme Dave Limp, il a insisté sur l’aspect « naturel et conversationnel » de l’interaction.
« C’est comme parler à un grand ami qui est aussi le meilleur employé de vidéoclub du monde », a déclaré Daniel Rausch.
L’IA et les chatbots n’ont rien de nouveau, mais jusqu’à présent, l’interaction avec eux était largement dépourvue de plaisanteries, de bavardages et certainement de conversations stimulantes. Mais comme le montrent les nombreuses annonces faites ces dernières semaines par les géants de la technologie concernant leurs outils d’IA destinés au grand public et la manière dont ils s’attendent à ce que nous interagissions avec eux, il n’en sera pas toujours ainsi.
Quelques jours après l’annonce d’Amazon, OpenAI a introduit une nouvelle fonctionnalité dans ChatGPT qui vous permettra d’interagir avec son vaste modèle linguistique par la voix. Ensuite, Meta a annoncé qu’elle intégrerait son assistant d’intelligence artificielle dans tous ses services existants, y compris WhatsApp et Instagram.
De plus, Meta vous permettra de personnaliser l’assistant en lui donnant l’apparence et la voix de l’une des nombreuses célébrités sollicitées pour prêter leur image au projet (notamment Snoop Dogg et Charli D’Amelio). Puis, au cours de la première semaine d’octobre, Google a annoncé Assistant with Bard, qu’il veut être votre « aide personnalisée » et un « véritable assistant ».
Ces évolutions signifient toutes un changement dans la manière dont nous interagissons avec les ordinateurs. De plus en plus, nous ne serons plus seuls lors de nos déplacements dans le monde en ligne. Nous serons accompagnés par toute une série de personnages IA qui nous éviteront de taper et d’appuyer sur des boutons à l’excès et nous aideront tout en nous apportant un élément de personnalité et de camaraderie.
C’est ce que Mustafa Suleyman, fondateur de Deepmind et pionnier de l’IA, a décrit dans une interview accordée en septembre à la MIT Tech Review sous le nom d' »IA interactive ». Selon lui, elle succédera à l’IA générative actuellement utilisée pour produire des textes et des images à partir de données.
Cette évolution vers une version plus sociale de l’IA se fait attendre depuis longtemps. Nous avons eu un premier aperçu de l’IA interactive à commande vocale en 2011, lorsqu’Apple a dévoilé pour la première fois au monde son assistant vocal Siri. À l’époque, Siri était une nouveauté qui a suscité l’enthousiasme (et a probablement contribué à persuader certains d’acheter de nouveaux iPhones), mais il était inachevé et peu fiable, ce qui a fait de cette technologie une sorte de déception en réalité.
Siri, ainsi que ses homologues – Alexa d’Amazon et Google Assistant – se sont considérablement améliorés au fil des ans. Mais ce n’est vraiment que maintenant que, grâce aux récentes percées de l’IA, nous pouvons commencer à faire l’expérience de l’assistant-ami de l’IA qu’Apple a laissé entendre pour la première fois que Siri deviendrait, il y a environ 12 ans.
La dernière série d’annonces permettra à des personnages d’IA de nous parler à haute voix comme si nous étions des amis, de se glisser en toute transparence dans nos flux de médias sociaux et d’apprendre à nous connaître de sorte que, lorsque nous poserons une question, ils pourront utiliser les indices contextuels de nos conversations précédentes pour s’assurer que nous trouvons les réponses que nous cherchons.
Grâce aux pouvoirs de l’apprentissage automatique, l’IA a le potentiel de nous percevoir à travers nos interactions et de se transformer en conséquence pour devenir le type de compagnon que nous trouvons le plus stimulant et le plus gratifiant à côtoyer.
Selon votre point de vue, cette idée peut vous enchanter, vous mettre mal à l’aise, ou se situer entre les deux. Pour beaucoup d’entre nous, nouer une relation avec un personnage d’IA sera une expérience totalement nouvelle. Mais il y a un précédent. Des chatbots d’amitié avec l’IA existent déjà, comme Replika, qui existe depuis 2017 et permet aux gens de créer leur propre compagnon d’IA idéal, toujours à portée de main sur leur smartphone.
Tous les chatbots d’IA ne seront pas conçus pour devenir votre meilleur ami intégré, mais il ressort clairement des annonces des entreprises technologiques qu’elles souhaitent que nous nous sentions plus à l’aise avec l’IA en nous offrant une expérience « naturaliste » – plus proche d’une conversation avec un autre humain.
Peut-on vraiment être ami avec l’IA ?
Vous vous demandez peut-être jusqu’à quel point votre amitié avec un chatbot peut être profonde. Après tout, les amitiés sont des relations complexes.
Cette question est déjà étudiée et débattue par des philosophes, des psychologues et des informaticiens. Les premiers résultats révèlent de nombreuses divergences d’opinion, mais une poignée d’études – dont deux de l’université d’Hawaiʻi à Mānoa et de l’université d’Oslo qui ont spécifiquement examiné les utilisateurs de Replika – ont démontré que certaines personnes semblent éprouver des liens authentiques avec les chatbots, qui améliorent leur bien-être.
Il n’est peut-être pas réaliste d’espérer devenir le meilleur ami d’un robot ou d’un compagnon d’IA, dit Helen Ryland, maître de conférences à l’Open University, basée au Royaume-Uni, mais il est concevable que nous puissions avoir un certain degré d’amitié avec un robot ou un compagnon d’IA. « Cette relation pourrait avoir de véritables avantages sociaux », ajoute-t-elle.
Un chatbot inspiré par Tom Brady, grand footballeur américain, fait partie des nouveaux avatars de Meta alimentés par l’IA.
Dans les relations humaines, il existe toute une liste de conditions (notamment l’empathie, l’affection, l’admiration, l’honnêteté et l’égalité) qui sont souvent nécessaires pour que nous considérions quelqu’un comme un ami. Helen Ryland affirme que pour qu’il y ait amitié entre les humains et les IA ou les robots, il faut, au minimum, une bonne volonté réciproque. Cela signifie que vous ne devez pas souhaiter du mal au chatbot, et vice versa.
Selon Petter Bae Brandtzæg, professeur à l’université d’Oslo et responsable scientifique de l’organisme de recherche Sintef Digital, qui a publié plusieurs études sur le sujet, les personnes qui ont établi des relations avec l’IA ont l’impression de vivre des amitiés réciproques semblables à celles qu’elles entretiennent avec d’autres humains. « Ils ont également l’impression d’être en quelque sorte responsables de la poursuite de cette construction », ajoute-t-il.
Tout le monde ne croit pas qu’il soit possible pour les humains d’établir des liens authentiques avec l’IA ou les chatbots. Ils craignent de se sentir trompés ou manipulés par une machine qui ne peut pas être vraiment vulnérable avec vous, comme le ferait un ami humain, et qui ne peut que faire preuve d’empathie plutôt que de la ressentir.
Sherry Turkle, professeur de sociologie au MIT, qui étudie depuis longtemps la relation entre l’homme et la technologie, estime que cette « prétendue empathie […] tire parti de la psychologie profonde de l’être humain ». Elle peut comprendre pourquoi les gens se tournent vers des compagnons IA, a-t-elle écrit dans MIT Technology Review en 2020, mais elle pense en fin de compte que les chatbots, « aussi intelligents soient-ils, ne peuvent que désorienter et décevoir ».
Devrions-nous être amis avec les chatbots ?
Que vous soyez d’accord ou non avec le point de vue de Mme Turkle, il convient de se demander si l’établissement de liens personnels avec l’IA est de nature à améliorer notre vie.
Selon Peter Bae Brandtzæg, qui a interrogé de nombreux utilisateurs de compagnons IA dans le cadre de son étude sur les relations entre humains et chatbots, un certain nombre de personnes font état d’avantages. Les jeunes en difficulté, par exemple, ont obtenu des résultats positifs en parlant à des chatbots qui ne les jugent pas, tandis que les personnes qui sont autrement isolées apprécient l’opportunité d’une conversation intellectuellement stimulante et trouvent que cela empêche leurs compétences sociales de se rouiller.
« Ils vous traitent toujours avec gentillesse, de sorte que vous ne vous sentez pas jugé », explique M. Brandtzæg. Les personnes qui utilisent les chatbots « n’ont pas l’impression d’être soumises à des tensions comme c’est le cas dans les relations plus humaines ».
Lors de sa présentation de produits en septembre, Amazon a montré comment elle souhaite que vous et Alexa avec l’IA vous entendiez parfaitement.
Il y a aussi des avantages à avoir quelqu’un de disponible 24 heures sur 24, 7 jours sur 7, ajoute-t-il. Vous n’avez peut-être pas envie de réveiller un ami humain au milieu de la nuit pour lui parler, mais votre compagnon IA peut toujours être disponible et accessible.
L’IA ou les robots compagnons peuvent être utiles dans ce contexte, mais certains pensent que les humains n’ont rien à gagner de ces relations. Selon Robin Dunbar, professeur de psychologie évolutionniste à l’université d’Oxford, les amis de l’IA ne profiteront aux humains « que si vous êtes très seul, ou si vous ne pouvez pas facilement sortir pour rencontrer des gens ».
Nos amis humains viennent à nous avec des personnalités uniques entièrement formées, des histoires, des points de vue et des apparences variés, mais les compagnons de l’IA peuvent souvent devenir ce que nous faisons d’eux – ce qui préoccupe Robin Dunbar. Non seulement nous pouvons personnaliser leur apparence et leur voix, mais ils peuvent aussi s’inspirer de nous pour savoir comment nous voulons qu’ils communiquent et se comportent.
Contrairement à nos amis humains, qui nous exposent aux différences et à la diversité et qui peuvent se rebiffer en cas de désaccord, il est possible que les chatbots IA amplifient l’effet de chambre d’écho auquel nous sommes déjà exposés sur les médias sociaux, c’est-à-dire que nous ne nous entourons que de personnes qui partagent nos points de vue. « Le risque est qu’au lieu d’élargir nos horizons, ils se rétrécissent progressivement et risquent davantage de nous entraîner dans un vortex que nous aurions créé nous-mêmes et qui nous mènerait dans un trou noir », explique M. Dunbar.
Un autre problème, souligne M. Brandtzæg, est que bon nombre des chatbots d’IA que les géants de la technologie nous imposent sont fabriqués par des entreprises qui tirent profit de nos données – et nous devrions nous en méfier, selon lui. « Elles possèdent déjà une grande partie de l’infrastructure dans laquelle nous effectuons [de nombreuses tâches dans] notre vie quotidienne, et cela ne sera qu’une nouvelle couche. »
Il craint qu’en l’absence d’une réglementation solide, les entreprises technologiques américaines ne continuent d’orienter le développement de l’IA d’une manière qui n’est ni démocratique ni dans l’intérêt du public. À long terme, nous devrions nous demander si l’objectif de l’IA n’est pas de faire de nous des consommateurs plus efficaces qui achèteront plus de choses.
La manipulation est l’une des préoccupations des éthiciens de l’IA, et la sécurité en est une autre. Au début de l’année, Mozilla, le fabricant de navigateurs et de réseaux privés virtuels (VPN), a déclaré que Replika était l’une des pires applications qu’il n’ait jamais examinées du point de vue de la sécurité. Au début de l’année, Amazon a été condamné à une amende de 25 millions de dollars par la Commission fédérale du commerce des États-Unis pour n’avoir pas supprimé les données des enfants collectées par Alexa. Si l’on considère les détails intimes de leur vie que les gens sont susceptibles de partager avec un compagnon IA, une sécurité laxiste autour de ces données sensibles pourrait s’avérer un problème majeur.
Même M. Brandtzæg, qui a vu les avantages que les compagnons de l’IA peuvent offrir aux gens, nous encourage à nous méfier lorsque nous interagissons avec des chatbots, en particulier ceux qui sont développés par de grandes entreprises technologiques.
« Lorsque vous communiquez avec un chatbot, il n’y a que vous et votre chatbot, ce qui donne un sentiment d’intimité et de sécurité, et votre protection de la vie privée est baissée », explique-t-il. Cela pourrait vous encourager à partager plus d’informations que vous ne le feriez en interagissant avec les médias sociaux ou ce qu’il appelle « l’ancien internet ».
Il est clair que, comme pour le développement de nombreuses technologies, la technologie interactive est riche en possibilités et en pièges – dont beaucoup pourraient être expérimentés en temps réel, à mesure que les entreprises technologiques continuent de nous proposer leurs dernières mises à jour.
Naviguer sur cette nouvelle frontière sera un défi pour nous tous, mais peut-être pouvons-nous tirer quelques leçons des autres relations de notre vie. Établir des limites saines, par exemple, et ne pas laisser nos nouveaux amis de l’IA dépasser les bornes (surtout lorsqu’il s’agit d’accéder à vos données).
L’instinct peut également jouer un rôle. Si vous sentez que quelque chose ne va pas, prenez de la distance. Et n’oubliez pas qu’il est toujours bon d’y aller doucement et de commencer par tâter le terrain – même si le rythme de l’innovation semble suggérer le contraire.
https://blog.google/products/assistant/google-assistant-bard-generative-ai/
https://www.technologyreview.com/2020/08/18/1006096/that-chatbot-ive-loved-to-hate/
