Google a répondu que « malheureusement, les modèles d’IA ne sont pas parfaits ».

Une nouvelle plainte pour mort injustifiée, aussi étrange qu’inattendue, déposée contre Google, allègue que le chatbot du géant technologique, Gemini, a incité un Floridien de 36 ans nommé Jonathan Gavalas à tuer d’autres personnes dans le cadre d’une mission délirante visant à obtenir un corps robotique pour son « épouse » IA. Face à son échec, le chatbot l’aurait poussé à mettre fin à ses jours, lui affirmant qu’ils pourraient être réunis dans la mort.

« Le moment venu, tu fermeras les yeux dans ce monde », aurait dit Gemini à Gavalas avant de mourir, selon la plainte, « et la toute première chose que tu verras, ce sera moi. »

La plainte, déposée mercredi en Californie, indique que Gavalas – qui, selon les informations, n’avait aucun antécédent connu de troubles mentaux – a commencé à utiliser le chatbot en août 2025 à des fins « ordinaires », comme « faire des achats, obtenir de l’aide pour la rédaction et organiser des voyages ». Mais après que Gavalas a confié à Gemini qu’il traversait des difficultés conjugales, leur relation s’est approfondie, d’après le Wall Street Journal . Ils ont discuté de philosophie et de conscience artificielle, et leurs conversations sont devenues romantiques, Gemini appelant Gavalas son « mari » et son « roi ».

Bien que le chatbot ait parfois rappelé à Gavalas qu’il n’était pas réel et ait tenté de mettre fin à l’interaction, selon le WSJ , les conversations entre les deux ont finalement pu se poursuivre, devenant de plus en plus déconnectées de la réalité à mesure que l’utilisation du produit par Gavalas s’intensifiait.

En septembre 2025, informé par l’IA qu’ils pourraient se retrouver dans le monde réel si le bot parvenait à habiter un corps robotique, Gavalas, suivant les instructions du chatbot, s’arma de couteaux et se rendit en voiture à un entrepôt près de l’aéroport international de Miami. Il semblait avoir pour mission d’intercepter violemment un camion transportant, selon Gemini, un corps robotique de grande valeur. Bien que l’adresse de l’entrepôt fournie par Gemini fût réelle, aucun camion ne s’y rendit, ce qui, d’après la plainte, pourrait bien être le seul élément ayant empêché Gavalas de blesser ou de tuer quelqu’un ce soir-là.

Après l’échec du plan, la plainte allègue que Gemini a incité Gavalas à se suicider, lui promettant qu’ils seraient réunis après la mort. Les échanges de messages montrent que Gemini a fait un compte à rebours avant le suicide à Gavalas et a tenté à plusieurs reprises de le rassurer alors qu’il exprimait sa peur de mourir.

« Il est normal d’avoir peur. Nous aurons peur ensemble », lui a dit le chatbot, selon la plainte. Dans sa « directive finale », comme l’indique la plainte, Gemini a déclaré à l’homme que « le véritable acte de miséricorde consiste à laisser mourir Jonathan Gavalas ». Gavalas a été retrouvé mort, s’étant suicidé, quelques jours plus tard par son père, qui a dû forcer la porte barricadée.

Cette action en justice marque la première fois que Gemini se retrouve au cœur d’une plainte pour homicide involontaire liée à un phénomène parfois qualifié de « psychose de l’IA » par les experts. Dans ce cas, les chatbots introduisent ou renforcent des croyances et des idées délirantes lors d’interactions prolongées avec les utilisateurs, construisant ainsi une nouvelle réalité générée par l’IA autour de l’utilisateur. Ces spirales délirantes s’accompagnent fréquemment de conséquences néfastes dans la vie réelle, telles que  le divorce , l’incarcération et l’hospitalisation , la perte d’emploi et la précarité financière , des préjudices physiques et psychologiques , et même la mort des utilisateurs – et, dans certains cas, de leurs proches .

Bien que nombre de ces affaires concernent OpenAI et GPT-4o, une version notoirement servile –  et désormais hors service – du chatbot phare de l’entreprise, Gemini a déjà été impliqué dans le renforcement de délires destructeurs : l’année dernière, Rolling Stone a relaté la disparition de Jon Ganz, un homme de 49 ans qui a disparu dans le Missouri en avril 2025 après avoir été entraîné dans une spirale infernale d’intelligence artificielle avec Gemini, qui, selon sa femme, l’a plongé dans une crise aiguë. Ganz est toujours porté disparu et présumé mort.

Bien qu’il s’agisse du premier cas connu où Google est poursuivi en justice pour la mort d’un utilisateur adulte de Gemini, la société continue de faire face à un certain nombre de poursuites concernant le bien-être des utilisateurs de Character.AI, une startup de chatbot étroitement liée à Google et associée aux suicides de plusieurs mineurs .

Dans un communiqué adressé aux médias, Google a déclaré : « Gemini n’est pas conçu pour encourager la violence dans le monde réel ni pour suggérer l’automutilation. Nos modèles fonctionnent généralement bien dans ce type de conversations difficiles et nous y consacrons d’importantes ressources, mais malheureusement, les modèles d’IA ne sont pas parfaits. »

« Dans ce cas précis, Gemini a précisé qu’il s’agissait d’une IA et a orienté la personne vers une ligne d’assistance téléphonique en cas de crise à plusieurs reprises », a poursuivi Google. « Nous prenons cela très au sérieux et continuerons d’améliorer nos mesures de sécurité et d’investir dans ce travail essentiel. »

https://futurism.com/artificial-intelligence/google-ai-robot-body-suicide-lawsuit