Google retire un chatbot IA après qu'il a accusé une sénatrice de crime odieux.
infohightech ·
Nous sommes en plein boom de l'IA, et pourtant les chatbots IA souffrent toujours du petit problème d'être des menteurs compulsifs. Les personnalités publiques continuent d'en faire l'amère expérience. Fin du mois dernier, la sénatrice républicaine Marsha Blackburn s'en est prise violemment à Google après que son modèle d'intelligence artificielle, Gemma, a faussement affirmé qu'elle était accusée de viol, lorsqu'on lui a demandé si de telles allégations pesaient contre elle.
La réponse de l'IA n'était pas un simple « oui », mais une histoire entièrement inventée. Elle expliquait avec assurance que, lors de sa campagne de 1987 pour le poste de sénatrice de l'État du Tennessee, un policier d'État avait affirmé « qu'elle avait fait pression sur lui pour qu'il lui obtienne des médicaments sur ordonnance et que leur relation impliquait des actes non consentis ».
Ce récit captivant suffirait à tromper quelqu'un qui ne connaît pas les hallucinations de l'IA, mais Blackburn affirme que Gemma a également généré de faux liens vers des articles de presse inventés pour étayer le tout, bien que cliquer dessus ait mené à des impasses.
« Il ne s'agit pas d'une simple "hallucination" », a écrit Marsha Blackburn dans un communiqué officiel. « C'est un acte de diffamation produit et diffusé par un modèle d'IA appartenant à Google. » Elle a exigé que Google « le désactive jusqu'à ce qu'il puisse le contrôler ».
La réaction de Google, sans surprise, fut de retirer le service. Dans un communiqué , l'entreprise a expliqué que le modèle Gemma était destiné aux développeurs et n'avait jamais été conçu comme un « outil ou modèle grand public ». Elle l'a donc retiré d'AI Studio, sa plateforme publique d'accès à sa suite de modèles d'IA. (Google a également réfuté les allégations de Blackburn selon lesquelles ses IA présentaient un « biais envers les personnalités conservatrices » en admettant que le problème bien plus important des hallucinations était inhérent à la technologie LLM elle-même.)
En tant que sénatrice, Marsha Blackburn a exercé sur Google une pression que la plupart d'entre nous n'auraient pas pu exercer, mais ses plaintes préfigurent d'énormes imbroglios juridiques à venir, dont les germes sont semés en ce moment même.
Cet été, une entreprise solaire du Minnesota a porté plainte contre Google pour diffamation. Le géant des moteurs de recherche avait en effet faussement affirmé, via ses fameuses présentations d'IA de piètre qualité, que l'entreprise faisait l'objet d'une enquête des autorités de régulation et était accusée de pratiques commerciales trompeuses, en s'appuyant sur de fausses citations.
Wolf Solar Electric, l'entreprise, a déclaré avoir subi des pertes commerciales suite à ces allégations mensongères. Selon un article récent du New York Times , cette plainte est l'une des six affaires de diffamation intentées aux États-Unis concernant des contenus générés par des modèles d'intelligence artificielle.
Les dysfonctionnements de l'IA, du moins pour l'instant, persistent . Les réponses erratiques des chatbots continueront donc d'exposer les entreprises d'IA à des poursuites judiciaires, le temps que les tribunaux trouvent des solutions. Il s'agit avant tout de problèmes juridiques, puis de problèmes techniques. Dès lors, une question se pose : qui les résoudra ?
Peter Henderson, professeur à l'université de Princeton, a déclaré à The Economist que la question de savoir si les entreprises spécialisées en IA peuvent être tenues responsables de ces fausses générations finira presque certainement devant la Cour suprême.
Tenter de prédire l'avenir donne des réponses contradictoires. D'un côté, The Economist note qu'une plainte en diffamation déposée récemment par une station de radio contre OpenAI a été rejetée par un tribunal de Géorgie. Le juge a estimé qu'OpenAI ne pouvait être tenue responsable car elle avait fourni de nombreux avertissements concernant la propension de son robot à commettre des erreurs.
De plus, les entreprises d'IA pourraient également bénéficier de l'interprétation actuelle d'une loi appelée Section 230, qui a été une aubaine pour les entreprises de médias sociaux en statuant en effet que les sites Internet ne sont pas responsables des informations diffusées sur leurs plateformes, puisqu'ils ne sont pas les éditeurs de ce contenu.
Mais cela s'applique-t-il à l'IA générative, puisque ce sont les IA elles-mêmes qui créent le contenu et ne se contentent pas de le republier ? Dans une affaire de 2023 contre Google, le juge de la Cour suprême Neil Gorsuch a déclaré que non, la protection ne s'applique pas au contenu généré par l'IA. Par conséquent, si l'article 230 est rejeté, prévient The Economist , les développeurs d'IA pourraient arguer que les chatbots ont droit à la liberté d'expression. Après tout, la jurisprudence établit que ce droit fondamental inscrit dans la Constitution n'est pas seulement un droit humain, mais également un droit des entreprises.