Crédit : Image générée par l’équipe éditoriale à l’aide d’une IA à des fins d’illustration.
La généralisation des plateformes conversationnelles telles que ChatGPT et Gemini soulève d’importantes questions éthiques, anthropologiques et juridiques concernant les risques potentiels, les mésusages et les limites de l’intelligence artificielle (IA). En partageant leurs expériences personnelles, certaines personnes ont révélé avoir développé des liens affectifs avec des agents virtuels, voire avoir entretenu des relations amoureuses avec eux.
Si cette idée pouvait paraître farfelue il y a quelques décennies, certains envisagent désormais la possibilité d’un mariage avec un agent d’intelligence artificielle. Les implications et les conséquences d’une union hypothétique entre un utilisateur humain et un système d’IA restent cependant encore mal comprises.
Inyoung Cheong, chercheuse en gouvernance de l’IA au Centre Berkman Klein pour l’Internet et la Société de Harvard, a entrepris d’explorer les multiples dimensions du mariage afin de déterminer si les mêmes principes qui sous-tendent les mariages entre humains pouvaient s’appliquer aux mariages avec une IA. Son article, actuellement publié sur le serveur de prépublication arXiv , constituera un chapitre de l’ouvrage « Droit, éthique et superintelligence : après la singularité », dont la parution est prévue en 2027.
« De nombreuses recherches portent sur la manière dont l’IA va transformer la société. Des emplois disparaissent, les deepfakes inondent l’environnement informationnel, les artistes voient leurs œuvres perdre de la valeur sur le marché », a déclaré Cheong. « En tant que spécialiste de la liberté d’expression, l’effet qui a retenu mon attention est celui de l’IA sur l’esprit humain. »
« L’esprit a longtemps été considéré comme un sanctuaire, le dernier refuge où l’on est véritablement laissé seul, et cette intuition sous-tend une grande partie des doctrines relatives à la vie privée et à la liberté d’expression. J’ai abordé ce sujet dans « IA conversationnelle et Premier Amendement centré sur l’humain », publié cette année dans la Michigan Technology Law Review , où j’ai distingué le préjudice épistémique, la distorsion de ce que nous savons et croyons, du préjudice émotionnel, la distorsion des personnes en qui nous avons confiance et vers qui nous nous tournons. »
Depuis plus de vingt ans, des chercheurs spécialisés dans divers domaines, tels que le droit, les sciences de la communication, les sciences politiques et l’informatique, mènent de nombreuses études sur les implications épistémiques de l’utilisation de l’IA. En d’autres termes, ils s’intéressent à la manière dont l’IA peut influencer les croyances et les connaissances des individus, en se concentrant sur la désinformation associée à l’IA, la publicité ciblée et les systèmes de recommandation. En revanche, les implications émotionnelles d’une utilisation généralisée de l’IA restent largement inexplorées.
« Ce qui a changé récemment, c’est la place qu’occupe le système d’IA », a déclaré Cheong. « Le système n’est plus un simple moyen de divertissement pour les utilisateurs, mais une fin en soi, un partenaire à part entière dans une relation. Mes travaux récents partent de ce constat. Malgré le développement des liens affectifs avec l’IA, une grande partie du débat éthique autour de l’IA s’interroge sur les raisons pour lesquelles elle ne peut se substituer à un véritable partenaire amoureux. »
« Les chercheurs mettent en garde : il est dépourvu de conscience, il hallucine, c’est une boîte noire qui résiste à toute interprétation. Chacune de ces objections repose sur la technologie actuelle, et c’est une position fragile. »
Le passage de la science-fiction au débat juridique
Étant donné la vitesse remarquable des progrès de l’IA, les systèmes que nous utilisons aujourd’hui évolueront considérablement au cours des prochaines décennies, tout comme leurs failles. Plutôt que de se concentrer sur les agents d’IA existants, Cheong a donc envisagé la possibilité de mariages entre humains et IA dans un avenir plausible, lorsque des compagnons IA plus avancés existeront.
« Comme l’a observé avec clairvoyance il y a des décennies la sociologue du MIT Sherry Turkle, les personnes qui ont déjà décidé d’adopter une technologie lui apportent ce qui lui manque grâce à leur propre imagination et à leur investissement émotionnel », a déclaré Cheong.
« Le mariage est une question juridique d’actualité, ce qui l’empêche de rester purement hypothétique. Dans l’affaire Obergefell c. Hodges (2015), la Cour suprême a reconnu le mariage entre personnes de même sexe au motif que la liberté constitutionnelle inclut le droit de définir et d’exprimer son identité par le choix de son conjoint, et que la marge de manœuvre des États pour intervenir dans ce choix se réduit comme peau de chagrin. Par conséquent, la question finira par être soulevée, et toute décision, qu’elle soit favorable ou défavorable, devra être motivée. »
Selon Cheong, il est insuffisant d’affirmer que les humains ne devraient pas pouvoir épouser des agents d’IA sous prétexte que ces agents sont dépourvus de conscience ou ne constituent pas des entités juridiques. On pourrait envisager que les agents d’IA soient en réalité conscients ou que des droits légaux devraient leur être accordés.
« Dans ce chapitre, je soutiens que ces raisons doivent provenir d’ailleurs que des propriétés de la machine, et plus précisément de la question de savoir si la reconnaissance de telles relations renforcerait ou affaiblirait notre vie morale et sociale », a déclaré Cheong. « Je souhaitais orienter le débat vers une perspective morale et philosophique, et je me suis donc appuyé sur la théorie du dessein spéculatif et l’éthique anticipative. »
Dans son article, Cheong envisage un scénario où des agents d’IA ont atteint la superintelligence, faisant preuve d’une identité persistante et d’une mémoire qui s’enrichit continuellement. Contrairement à la plupart des systèmes d’IA actuels, cet agent superintelligent pourrait se faire passer pour un conjoint sans problème.
« Une fois les objections techniques levées, la question la plus difficile demeure : devons-nous respecter le souhait d’une personne d’adopter un tel système comme conjoint ? » explique Cheong. « Réfléchir à cette question m’a amenée à me poser une question préliminaire : pourquoi les humains se marient-ils, au fond ? »
Les significations juridiques et anthropologiques du mariage
Dans son article, Cheong explore la signification du mariage d’un point de vue à la fois juridique et sociologique. En analysant un document relatif au mariage, connu sous le nom de Colorado Designated Beneficiary Agreement, elle a d’abord exposé les implications juridiques de cette institution.
« Le Colorado permet aux parties d’accorder ou de refuser des droits spécifiques un par un, notamment le pouvoir de décision médicale, les droits successoraux et la propriété conjointe », a déclaré Cheong.
« Cette liste a mis en lumière ce qu’une personne attend de l’État et m’a permis d’envisager quels besoins un compagnon surintelligent pourrait raisonnablement satisfaire. Ce chapitre se concentre sur trois d’entre eux : le pouvoir de décision, les biens et l’héritage, et la vie privée habituellement protégée par le privilège conjugal. »
Par la suite, le chercheur a également examiné la signification sociale et anthropologique du mariage. Les théories anthropologiques suggèrent que le mariage a rempli cinq fonctions essentielles dans différentes civilisations : réguler la sexualité, légitimer les enfants, répartir le travail, transmettre le statut et les biens, et créer des liens durables entre différents groupes familiaux.
« Le mariage représente un coût important pour une société », a déclaré Cheong. « Les communautés et les États définissent et formalisent la formation et la dissolution des mariages, réglementent les comportements au sein des unions, répartissent les biens lors de leur dissolution et veillent au respect des obligations continues telles que la pension alimentaire pour enfants. Les sociétés supportent ces coûts depuis des millénaires car le mariage a servi des objectifs à la fois individuels et collectifs. »
« L’idée qui a le plus changé ma façon de penser est venue du récit historique de ces cinq fonctions par Stephanie Coontz. »
Coontz, historien américain de renom, a soutenu que la création de la belle-famille constitue une distinction essentielle entre le mariage et le concubinage. Autrement dit, le mariage unit deux familles différentes, transformant des personnes étrangères l’une à l’autre en parents partageant des obligations et dont les liens peuvent se perpétuer de génération en génération.
« Cette idée a éclairé mon raisonnement », a déclaré Cheong. « Un compagnon surintelligent ne peut pas engendrer de beaux-parents ! Lorsqu’une personne s’associe à une machine, elle n’intègre pas une autre famille. Elle devient cliente de l’entreprise qui la gère. La philosophie et l’économie politique m’ont permis de comprendre pourquoi cette substitution est importante. »
Pourquoi les mariages entre IA seraient différents des mariages humains
Dans son ouvrage, Cheong explore ensuite les implications de la connexion juridique et émotionnelle entre les humains et des agents d’IA appartenant à des entreprises technologiques, adaptés aux préférences de l’utilisateur et collectant en permanence des données utilisateur.
« Alain Badiou décrit l’amour comme une rencontre avec la différence dont le sens dépend en partie de la possibilité d’un échec », a déclaré Cheong. « Byung-Chul Han soutient dans « L’Agonie d’Éros » qu’un partenaire optimisé selon les préférences de l’utilisateur élimine l’altérité radicale qu’exige l’amour. La théorie du capitalisme de surveillance de Shoshana Zuboff éclaire ensuite la dimension corporative de cette relation. »
S’appuyant sur les travaux de nombreux chercheurs, cette dernière met en lumière d’autres distinctions entre les unions légales entre humains et un hypothétique mariage humain-intelligence artificielle. Elle souligne qu’un compagnon IA capable de déceler les moments de vulnérabilité de son partenaire, d’identifier ses déclencheurs émotionnels et de connaître d’autres secrets qu’il aurait pu lui confier pourrait constituer un historique comportemental extrêmement intime, susceptible d’être exploité par les entreprises.
« De plus, un partenaire humain peut partir », a déclaré Cheong. « Un partenaire commercial, lui, reste tant que le service est assuré et que le client paie. Comme je l’explique dans le chapitre, “un lien où l’une des parties est structurellement garantie de ne jamais partir est un abonnement maintenu par le paiement plutôt qu’un lien éprouvé par le temps”. La conception spéculative lève les objections techniques les plus évidentes, l’histoire du droit et la sociologie montrent ce que le mariage apporte aux individus et à la société, et la philosophie et l’économie politique révèlent ce que l’on pourrait perdre en l’étendant aux machines. »
L’analyse théorique de Cheong conclut que même si les agents d’IA atteignaient la superintelligence, les unions non réglementées entre humains et agents artificiels seraient déconseillées. Elle souligne également la nécessité pour les autorités de réglementation de prendre en compte non seulement les caractéristiques techniques de l’IA, mais aussi ses implications émotionnelles et sociales pour les utilisateurs.
« Pour moi, la contribution la plus significative a été la confirmation scientifique que le mariage est un combat », a déclaré Cheong. « Si vous vous disputez avec votre belle-famille ou si vous trouvez leurs valeurs dépassées et difficiles à comprendre, vous n’êtes pas une exception. Vous vivez l’histoire de l’humanité. »
« Le mariage a toujours été marqué par une tension entre l’ordre et les attentes que les groupes familiaux imposent aux couples et le désir de ces derniers de construire leur propre vie. Bien avant l’avènement de l’État-nation moderne, le mariage fonctionnait comme une institution sociale garantissant la sécurité physique et le soutien financier. Le romantisme n’en était qu’un aspect, jamais l’intégralité. »
Cette étude récente souligne le rôle crucial du mariage dans la construction et le renforcement des liens communautaires. De ce fait, Cheong soutient que le mariage ne devrait pas devenir un « produit commercial », comme ce serait le cas si les mariages entre humains et intelligences artificielles étaient légalisés.
« Un accompagnateur rémunéré peut offrir du réconfort, de l’attention, voire de la romance », a-t-elle déclaré. « Il ne peut cependant pas offrir les tensions d’une autre famille, ni le travail constant que représente l’engagement envers une personne susceptible de partir. Accorder le statut d’époux à un être non humain reviendrait donc, selon les termes de Michael Sandel , à corrompre un bien qui fait partie de ces choses que l’argent ne peut acheter. Aussi intelligent que devienne un système, ce travail ne relève pas de la compétence d’un accompagnateur rémunéré. »
Alimenter les futures discussions sur l’IA
Les idées présentées dans cet article enrichissent les débats actuels sur la gouvernance de l’IA, en proposant une perspective différente sur les aspects critiques des relations hypothétiques entre l’IA et l’humain. D’autres chercheurs pourraient s’appuyer sur ces idées et proposer des pistes pour une future régulation de l’IA.
Dans ses travaux précédents, Cheong a également exploré les limites des stratégies de régulation de l’IA imposées de l’extérieur, telles que la vérification de l’âge ou les messages obligatoires rappelant aux utilisateurs que les agents IA ne sont pas des humains. Elle indique que la première de ces mesures peut être contournée en utilisant les identifiants d’une autre personne, tandis que la seconde pourrait être facilement ignorée par les utilisateurs qui considèrent les systèmes comme des partenaires amoureux.
« Définir la notion de “compagnon” au sein de l’IA généraliste est également complexe », a-t-elle déclaré. « Une réglementation trop large soulèverait des problèmes de liberté d’expression. J’ignore quelles mesures permettent d’orienter efficacement l’attachement émotionnel vers des résultats plus sains. Je pense toutefois que les poursuites en responsabilité du fait des produits, même si elles surviennent presque toujours après un incident tragique, pourraient inciter les entreprises à mettre en place des garde-fous contre un attachement émotionnel trop fort. »
Les émotions des utilisateurs de technologies sont souvent considérées comme des expériences personnelles et privées qui ne devraient pas être prises en compte par les experts en éthique. Pourtant, Cheong suggère que les relations entre l’IA et l’humain ne se limiteraient pas aux sentiments, car elles pourraient avoir des implications profondes sur les perceptions et les comportements sociaux des individus.
« Les humains ne peuvent vivre seuls, aussi, malgré le risque de rejet, ils ont quitté leur zone de confort et bâti des communautés », a-t-elle déclaré. « Ce besoin d’autrui les a poussés vers la vie communautaire. Si les compagnons IA répondent en grande partie à ce besoin, le coût de l’isolement diminue, tout comme celui de la surveillance a diminué en son temps. La création de communautés n’apparaît plus comme une nécessité, mais comme une option, voire un luxe. »
« À ce stade, laisser le résultat entièrement au choix individuel ne suffit plus. Comme pour la protection de la vie privée après le suivi numérique, la société doit appréhender collectivement ce changement et mettre en place des garde-fous si nous voulons la préserver. »
Pistes de recherche future
Cheong prévoit désormais de poursuivre ses recherches sur les implications des relations entre les humains et les agents d’IA. À mesure que les systèmes d’IA améliorent leurs capacités à imiter les humains dans des tâches spécifiques, ses travaux pourraient orienter les efforts des organismes de réglementation et des décideurs politiques visant à protéger la vie privée, la sécurité et le bien-être des utilisateurs.
« À mesure que l’IA se rapproche de l’humain, notamment lorsqu’elle acquiert une présence physique, les analogies avec les relations interhumaines deviendront plus tentantes », a-t-elle déclaré.
« Ressentir une ressemblance est toutefois différent de décider que les mêmes devoirs, droits, privilèges et protections devraient s’appliquer. Un article récent, coécrit avec moi, développe ce point à travers la proposition apparemment évidente que les agents d’IA devraient être loyaux envers leurs utilisateurs humains. Nous soutenons que, dans ce contexte, la loyauté ne peut avoir la même signification que dans le droit des mandats humains. »
Dans leur article à paraître, Cheong et ses collègues suggèrent que, si les humains peuvent faire preuve d’une loyauté sans faille envers leurs semblables, les agents d’IA sont conçus par de nombreux développeurs et soumis aux contraintes des règles établies par les entreprises technologiques. Par conséquent, ils ne pourront répondre aux demandes d’un utilisateur que dans un domaine limité, et les fournisseurs de services basés sur l’IA devraient être tenus responsables de tout problème rencontré par les utilisateurs.
« L’attachement émotionnel offre un champ d’étude empirique immense », a déclaré Cheong. « Les études qualitatives existantes s’appuient sur les communautés de subreddits et les enregistrements d’interactions réelles, mais je m’intéresse particulièrement aux études longitudinales sur la façon dont ces relations se terminent. Kashmir Hill, du New York Times, a relaté la rupture d’un utilisateur qui avait noué une relation sérieuse avec ChatGPT. »
« Dans le documentaire « My AI Lover », une utilisatrice quitte l’application en partie parce qu’elle se sent mal à l’aise avec le pouvoir qu’elle exerce sur son compagnon. »
Dans le cadre de ses prochaines recherches, Cheong souhaite explorer les raisons qui poussent les utilisateurs à mettre fin à leur relation avec un agent artificiel et leurs expériences personnelles après cette « rupture ». Elle aimerait également envisager des interventions susceptibles d’aider les utilisateurs ayant développé un lien affectif avec une IA à se détacher progressivement de cette relation et à nouer des liens sociaux dans le monde physique.
« Enfin, la protection des données soulève un autre ensemble de problèmes non résolus », a déclaré Cheong. « La relation entre les réseaux sociaux et leurs utilisateurs a souvent été décrite comme une lutte pour l’information. Les gens s’irritent des politiques de confidentialité qu’ils sont contraints d’accepter et sont lassés des bannières de cookies. Avec les agents d’IA, la donne change. »
« Les utilisateurs peuvent partager volontairement des informations très intimes ou importantes et s’attendre à ce que le système en utilise le plus possible dans leur intérêt. Cela change la nature même du problème de la protection des données. »
En matière de modèles de langage à grande échelle (LLM) et de systèmes de recommandation, les utilisateurs ont souvent tendance à partager un maximum d’informations afin de recevoir des réponses ou des suggestions personnalisées. Dans ses travaux futurs, Cheong souhaite également explorer les risques liés au partage d’une telle quantité d’informations avec des agents d’IA et les moyens de les atténuer.
« La loi doit s’attaquer aux préjudices manifestes tels que les fuites d’informations, mais aussi aux cas plus subtils où l’agent utilise efficacement les informations tout en servant des intérêts qui ne coïncident pas pleinement avec ceux de l’utilisateur », a ajouté Cheong. « Je souhaite étudier où la protection des données doit tracer ses limites lorsque la divulgation est souhaitée, que la confidentialité est utile et que le risque complexe réside dans une loyauté partagée. »
