La colère éclate après que Netflix a utilisé l'IA pour cloner la voix d'une influenceuse assassinée pour un documentaire sur un crime réel concernant sa mort
infohightech ·
Netflix est sous le feu des critiques pour avoir utilisé l'IA générative pour reproduire la voix de Gabby Petito, l'influenceuse des médias sociaux de 22 ans qui, selon le FBI, a été assassinée par son fiancé Brian Laundrie en août 2021.
Dans le générique d'ouverture du documentaire sur les faits divers de la société, « American Murder: Gabby Petito », dont le premier épisode a été diffusé lundi, un avis révèle que « les entrées du journal et les messages texte de Petito prennent vie dans cette série avec sa propre voix, en utilisant une technologie de recréation vocale ».
https://twitter.com/editedbylaura/status/1891423341111611683
https://twitter.com/editedbylaura/status/1891423341111611683
Je regarde #AmericanMurderGabbyPetito et putain. Ils ont utilisé la recréation vocale par IA pour faire lire à Gabby Petito des entrées de journal et des messages texte des derniers mois de sa vie.
Je suppose qu'ils ont obtenu la permission de la famille, mais c'est une utilisation profondément troublante de l'IA. pic.twitter.com/uKd4bIFfBu
— Laura (@editedbylaura) 17 février 2025
C'est un choix artistique étrange, même pour le genre chargé de véritables crimes, qui a surpris le public, un utilisateur le qualifiant d’ « utilisation profondément troublante de l'IA ».
« J'ai regardé le documentaire sur Gabby Petito et je me suis complètement investie... jusqu'au moment où elle a commencé à utiliser l'IA pour lui faire lire ses textes et ses entrées de journal », a écrit un autre utilisateur. « Ce n'est absolument PAS acceptable. Elle est victime d'un meurtre. Vous la violez à nouveau. »
Les parents de Gabby Petito semblent avoir joué un rôle essentiel dans les efforts de Netflix pour redonner vie à sa voix.
« Nous avons pu obtenir énormément de documents de ses parents », a déclaré le réalisateur et producteur Michael Gasparro à Us Weekly . « Tous ses journaux depuis qu'elle était jeune et il y avait tellement de ses écrits. »
« En fin de compte, nous voulions raconter l'histoire autant que possible à travers Gabby », a-t-il ajouté. « C'est son histoire. »
Mais pour beaucoup, utiliser l’IA pour synthétiser la voix d’une personne décédée – en particulier sans son consentement – était un pas de trop.
« Je comprends qu'ils aient eu la permission des parents, mais ça ne les rend pas plus heureux », a écrit un ancien utilisateur de Twitter. « Cette femme s'est fait enlever sa voix, donc la recréer avec un substitut médiocre – un modèle d'IA monotone et dénué d'émotion – est une insulte à son égard. Ce n'est absolument pas nécessaire. »
« Ce monde déteste tellement les femmes », a tweeté un autre utilisateur.
« On ne peut pas prédire quelle aurait été son intonation et c'est tout simplement dégoûtant de l'utiliser à mon avis... au moins j'espère qu'ils ont obtenu le consentement de sa famille », a écrit un Redditor . « Je n'aime pas non plus le précédent que cela crée pour les futurs documentaires. »
Ce n'est pas la première fois que l'on découvre l'utilisation de l'IA générative dans un documentaire Netflix sur des faits divers. L'année dernière, il a été découvert ce qui semblait être des images générées ou manipulées par l'IA dans un documentaire sur un complot de meurtre impliquant une femme nommée Jennifer Pan, qui purge actuellement une peine de prison.
Les images utilisées pour décrire sa personnalité « très authentique » portaient toutes les caractéristiques de l'IA générative, comme des traits du visage mal alignés et des doigts transformés.
Plus tôt ce mois-ci, 404 Media a également découvert une chaîne YouTube entière publiant un flot de conneries d'IA sur des « vrais crimes » entièrement inventées.
La dernière utilisation de l’IA par Netflix est-elle profondément déplaisante et exploiteuse – ou une restitution fidèle de la voix du défunt influenceur ?
Étant donné la banalité de cette technologie, il est peu probable que ce soit la dernière fois que nous la verrons utilisée dans des documentaires.
Les réalisateurs de « American Murder: Gabby Petito », pour leur part, estiment ne pas lui avoir rendu un mauvais service.
« Dans tous nos documentaires, nous essayons de nous adresser à la source et aux personnes les plus proches des victimes décédées ou des personnes elles-mêmes qui ont vécu cette expérience », a déclaré la productrice Julia Willoughby Nason à Us Weekly . « C'est vraiment par-là que nous commençons à passer au crible toutes les données et informations qui accompagnent ces énormes histoires. »