Des entreprises chinoises proposent de "ressusciter" des êtres chers décédés grâce à des avatars d'IA
infohightech ·
Lorsque le stress au travail monte, Sun Kai, cadre chinois dans le secteur de la technologie, se tourne vers sa mère pour obtenir du soutien. Ou plutôt, il parle avec son avatar numérique sur une tablette, rendu à partir des épaules par l'intelligence artificielle pour ressembler à sa mère en chair et en os, décédée en 2018.
"Je ne considère pas [l'avatar] comme une sorte de personne numérique. Je le considère vraiment comme une mère", déclare Sun Kai, 47 ans, depuis son bureau de Nanjing, ville portuaire de l'est de la Chine. Il estime qu'il converse avec son avatar au moins une fois par semaine. "J'ai le sentiment que c'est peut-être la personne la plus parfaite à qui se confier, sans exception.
La société qui a créé l'avatar de la mère de M. Sun s'appelle Silicon Intelligence, où M. Sun est également cadre et travaille sur la simulation vocale. Cette société, basée à Nanjing, fait partie d'une vague de start-ups technologiques en Chine et dans le monde qui créent des chatbots d'intelligence artificielle en utilisant la voix et la ressemblance d'une personne.
L'idée de cloner numériquement des personnes décédées n'est pas nouvelle mais, jusqu'à ces dernières années, elle était reléguée au domaine de la science-fiction. Aujourd'hui, des chatbots de plus en plus puissants, comme Ernie de Baidu ou ChatGPT d'OpenAI, qui ont été formés à partir d'énormes quantités de données linguistiques, et des investissements importants dans la puissance de calcul ont permis à des entreprises privées de proposer des "clones" numériques de personnes réelles à un prix abordable.
Ces entreprises ont entrepris de prouver que les relations avec des entités générées par l'IA peuvent devenir courantes. Pour certains clients, les avatars numériques qu'elles produisent sont des compagnons. En Chine, elles ont également été créées pour répondre aux besoins des familles en deuil qui cherchent à créer un portrait numérique de leurs proches disparus, un service que Silicon Intelligence qualifie de "résurrection".
"Qu'elle soit vivante ou morte n'a pas d'importance, car lorsque je pense à elle, je peux la retrouver et lui parler", dit Sun Kai à propos de sa mère, Gong Hualing, aujourd'hui décédée. "Dans un sens, elle est vivante. Du moins, dans ma perception, elle est vivante", ajoute-t-il.
L'essor des simulations de personnes décédées par l'IA, ou "deadbots" comme les appellent les universitaires, soulève des questions sans réponse claire sur l'éthique de la simulation d'êtres humains, morts ou vivants.
Aux États-Unis, des entreprises comme Microsoft et OpenAI ont créé des comités internes pour évaluer le comportement et l'éthique de leurs services d'IA générative, mais il n'existe pas d'organisme de réglementation centralisé, ni aux États-Unis ni en Chine, pour superviser l'impact de ces technologies ou leur utilisation des données d'une personne.
Les données restent un goulet d'étranglement
En parcourant les sites de commerce électronique chinois, vous trouverez des dizaines d'entreprises qui vendent des services de "clonage numérique" et de "résurrection numérique" permettant d'animer des photographies pour leur donner l'apparence de parler, et ce pour l'équivalent de moins de 2 dollars.
Le service d'avatar numérique le plus basique de Silicon Intelligence coûte 199 yuans (environ 30 dollars ou environ 27 €) et nécessite moins d'une minute de vidéo et d'audio de haute qualité de la personne de son vivant.
Les avatars interactifs plus avancés, qui utilisent une technologie d'IA générative pour se déplacer sur l'écran et converser avec un client, peuvent coûter des milliers de dollars.
Mais il y a un gros goulot d'étranglement : les données, ou plutôt le manque de données.
"L'essentiel est de cloner les pensées d'une personne, de documenter ce qu'elle a pensé et vécu au quotidien", explique Zhang Zewei, fondateur de Super Brain, une société d'IA basée à Nanjing qui propose également des services de clonage.
Zhang Zewei demande à ses clients de décrire leurs souvenirs fondamentaux et leurs expériences importantes, ou ceux de leurs proches. L'entreprise introduit ensuite ces récits dans les chatbots existants, afin d'alimenter les conversations d'un avatar d'IA avec un client.
À Silicon Intelligence, un technicien se prépare à filmer une personne dans le studio. Cette personne lira un script et effectuera des gestes spécifiques selon les instructions. Ces images seront utilisées pour créer un avatar d'IA.
(En raison de l'augmentation des escroqueries à l'IA utilisant des imitations profondes de la voix ou de la ressemblance d'une personne, Super Brain et Silicon Intelligence requièrent tous deux l'autorisation de la personne clonée numériquement, ou l'autorisation de la famille et une preuve de parenté si la personne est décédée).
L'étape la plus laborieuse de la création d'un avatar d'une personne consiste à nettoyer les données fournies par cette dernière, explique Zhang. Les proches transmettent souvent des données audio et vidéo de mauvaise qualité, entachées de bruits de fond ou de flou. Les photos représentant plus d'une personne ne sont pas bonnes non plus, dit-il, car elles embrouillent l'algorithme de l'IA.
Toutefois, Zhang Zewei admet que pour qu'un clone numérique soit vraiment réaliste, il faudrait disposer de volumes de données beaucoup plus importants, les clients devant se préparer "au moins 10 ans" à l'avance en tenant un journal quotidien.
La rareté des données utilisables est aggravée lorsqu'une personne décède inopinément et laisse derrière elle peu de notes ou de vidéos.
Toutefois, Zhang Zewei admet que pour qu'un clone numérique soit vraiment vivant, il faudrait disposer de volumes de données beaucoup plus importants, les clients devant se préparer "au moins 10 ans" à l'avance en tenant un journal quotidien. La rareté des données utilisables est aggravée lorsqu'une personne décède inopinément et laisse derrière elle peu de notes ou de vidéos. Fu Shou Yuan International Group, une société chinoise cotée en bourse à Shanghai qui entretient des cimetières et fournit des services funéraires, base ses avatars IA principalement sur la présence d'une personne sur les médias sociaux au cours de sa vie.
"Dans le monde d'aujourd'hui, c'est probablement Internet qui vous connaît le mieux. Vos parents ou votre famille ne savent peut-être pas tout de vous, mais toutes vos informations sont en ligne - vos selfies, vos photos, vos vidéos", explique Fan Jun, un cadre de Fu Shou Yuan.
Un tabou contre la mort
Fu Shou Yuan espère que l'IA générative pourra atténuer le tabou culturel traditionnel qui entoure le fait de parler de la mort en Chine, où le deuil s'accompagne de rituels et de cérémonies importants, bien que l'expression du chagrin quotidien soit découragée.
À Shanghai, l'entreprise a construit un cimetière, aménagé comme un parc public ensoleillé, mais il ne s'agit pas d'un cimetière ordinaire. Celui-ci est numérisé :Les visiteurs peuvent brandir un téléphone portable pour scanner un code QR placé sur certaines pierres tombales et accéder à un enregistrement multimédia des expériences de vie et des réalisations du défunt. "Si ces pensées et ces idées devaient être gravées comme dans les temps anciens, nous aurions besoin d'un vaste cimetière comme les tombes des Qing de l'Est pour tout le monde", explique Fan, en référence à un grand complexe de mausolées impériaux." Mais aujourd'hui, ce n'est plus nécessaire. Tout ce dont vous avez besoin, c'est d'un espace aussi petit qu'une tasse sur laquelle figure un code QR."
M. Fan espère que l'expérience permettra de mieux "intégrer le physique et le spirituel" et que les familles verront le cimetière numérique comme un lieu de célébration de la vie plutôt que comme un site qui suscite la peur de la mort.
Photos du cimetière numérique de Fushouyuan. Dans le cimetière numérique créé par Fu Shou Yuan à Shanghai, une pierre tombale comporte un code QR que les visiteurs peuvent scanner pour accéder à des informations sur le défunt et lui rendre hommage en ligne.
Jusqu'à présent, moins de 100 clients ont choisi de placer des avatars numériques sur les pierres tombales de leurs proches.
"Pour les membres de la famille qui viennent de perdre un être cher, la première réaction sera certainement un sentiment de réconfort, un désir de communiquer à nouveau avec lui", explique Jiang Xia, organisateur de funérailles pour le Fu Shou Yuan International Group. "Toutefois, il serait difficile de dire que tous les clients accepteront cette solution, car des questions éthiques se posent.
Les entreprises chinoises ne sont pas non plus les premières à essayer de recréer des simulations numériques de personnes décédées. En 2017, Microsoft a déposé une demande de brevet pour simuler des conversations virtuelles avec une personne décédée, mais un dirigeant du géant technologique américain a déclaré plus tard qu'il n'était pas prévu de poursuivre ce projet en tant que service commercial complet, affirmant qu'il était "troublant."
Le projet December, une plateforme construite à partir de la technologie de ChatGPT, offre à plusieurs milliers de clients la possibilité de parler avec un chatbot inspiré de leurs proches. OpenAI a rapidement mis fin à l'accès de la plateforme à sa technologie, craignant qu'elle ne soit utilisée à mauvais escient pour causer des dommages émotionnels.
Les éthiciens mettent en garde contre les dommages émotionnels potentiels causés aux membres de la famille par des clones d'IA ressemblant à des êtres vivants. "C'est une très grande question qui se pose depuis le début de l'humanité : Qu'est-ce qu'une bonne consolation ? Est-ce la religion ? Est-ce l'oubli ? Personne ne le sait", déclare Michel Puech, professeur de philosophie à la Sorbonne, à Paris.
"Il y a un risque d'accoutumance et de remplacement de la vie réelle. Si cela fonctionne trop bien, c'est là le danger", assure Michel Puech. "Le fait d'avoir une expérience trop consolante, trop satisfaisante d'une personne décédée annihilera apparemment l'expérience et le chagrin de la mort". Mais, selon M. Puech, il s'agit en fait d'une illusion.
La plupart des personnes qui ont décidé de cloner numériquement leurs proches n'hésitent pas à admettre que chaque personne vit son deuil différemment.
Sun Kai, le cadre de Silicon Intelligence qui a cloné numériquement sa mère, a délibérément déconnecté son avatar numérique de l'internet, même si cela signifie que le chatbot restera ignorant de l'actualité."Peut-être qu'elle restera toujours la mère de ma mémoire, plutôt qu'une mère qui suit l'actualité", explique-t-il à NPR.D'autres sont plus directs.
"Je ne le recommande pas à certaines personnes qui pourraient voir l'avatar et ressentir à nouveau toute l'intensité de leur chagrin", déclare Yang Lei, un habitant de la ville de Nanjing, dans le sud du pays, qui a payé une société pour créer un avatar numérique de son oncle décédé.
Des solutions "low-tech" à des problèmes "high-tech
Lorsque l'oncle de Yang est décédé, il a craint que le choc ne tue sa grand-mère âgée et malade. Au lieu de lui annoncer la mort de son fils, M. Yang a cherché à créer un avatar numérique suffisamment réaliste pour passer des appels vidéo avec elle et entretenir la fiction que son fils était toujours en vie et en bonne santé.
Yang explique qu'il a grandi avec son oncle, mais que leurs relations se sont distendues après que celui-ci a quitté leur village pour chercher du travail dans le secteur de la construction.
Après la mort de son oncle, Yang s'est efforcé de découvrir d'autres détails de sa vie.
"Il avait une routine assez simple, car la plupart de ses collègues travaillaient sur des chantiers de construction. Ils travaillent et dorment sur place. La vie était assez dure", explique Yang." C'était juste un endroit pour gagner de l'argent, rien de plus, pas d'autres souvenirs.
Yang a fouillé dans les discussions de groupe de la famille sur diverses applications de médias sociaux sur son propre téléphone et a trouvé suffisamment de messages vocaux et de vidéos de son défunt oncle pour créer un clone numérique viable de son image. Mais l'absence de dossiers personnels, de comptes de médias sociaux et donc de données que son oncle avait laissées derrière lui n'a pas permis d'y remédier. C'est alors que Yang a eu l'idée d'une solution moins technique : Et si un employé de l'entreprise se faisait passer pour son oncle, mais déguisait son visage et sa voix avec l'IA de son oncle ?
Au printemps 2023, Yang a mis son plan à exécution, bien qu'il ait depuis avoué la vérité à sa grand-mère une fois qu'elle était en meilleure santé. L'expérience a amené Yang à réfléchir à sa propre mortalité.Il dit qu'il va certainement se cloner numériquement avant sa mort. Toutefois, cela ne créerait pas une autre version vivante de lui-même, prévient-il, et un tel avatar numérique ne remplacerait jamais la vie humaine."Il ne faut pas trop y penser", prévient-il.
"Un avatar d'IA n'est pas la même chose que l'humain qu'il a remplacé. Mais lorsque nous perdrons notre corps de chair et de sang, au moins l'IA préservera nos pensées."
https://www.npr.org/2024/07/18/nx-s1-5040583/china-ai-artificial-intelligence-dead-avatars