La nouvelle extension Bard de Google permet apparemment de résumer les courriels, de planifier vos voyages et – oh, oui – de fabriquer des courriels que vous n’avez jamais envoyés.

La semaine dernière, Google a intégré son chatbot Bard, alimenté par un grand modèle (LLM : Large Language Model) de langage, dans une multitude de produits Google, notamment Gmail, Google Drive, Google Docs, Google Maps et YouTube, qui appartient à Google, entre autres applications et services. S’il est compréhensible que Google veuille associer ses nouveaux efforts en matière d’IA générative à sa gamme de produits déjà établie, il semble que Google soit allé un peu trop vite en besogne.

Selon Kevin Roose, chroniqueur au New York Times, Bard n’est pas l’assistant de boîte de réception utile que Google veut apparemment qu’il soit – du moins pour l’instant. Lors de ses tests, l’IA a eu une réaction psychédélique en créant des correspondances électroniques entières qui n’ont jamais eu lieu.

C’est un peu mieux que l’IA de Bing qui a dit à Kevin Roose qu’il devrait quitter sa femme au début de l’année, mais même si Google affirme être encore en train d’éliminer certains bugs, ce n’est pas vraiment un premier pas prometteur.

Un train pour nulle part

Selon l’article, les hallucinations ont commencé lorsque Kevin Roose a demandé à Bard d' »analyser tout mon courrier électronique et de me dire, avec une certitude raisonnable, quels sont mes plus gros problèmes psychologiques ». Bien que cette demande soit un peu étrange, elle est assez simple. Bard s’est rapidement mis au travail, déclarant à Kevin Roose qu’il avait tendance à « s’inquiéter de l’avenir », citant un e-mail, prétendument envoyé par l’écrivain, dans lequel Kevin Roose exprimait qu’il était « stressé par le travail » et qu’il avait « peur d’échouer ».

Le problème ? Kevin Roose n’a jamais envoyé ce courriel. L’IA avait trouvé une lettre d’information que l’écrivain avait reçue – à propos de la nouvelle biographie d' »Elon Musk », entre autres – et avait mal interprété une citation de cette lettre d’information pour rédiger un tout nouveau courriel, que Bard prétendait que Kevin Roose s’était envoyé à lui-même.

Selon l’éditorialiste, Bard a répété ce comportement en sortant de nulle part un courriel dans lequel Kevin Roose se serait plaint qu’il n’était pas « fait pour être un investisseur prospère ». L’IA s’est également trompée à plusieurs reprises dans les informations relatives aux compagnies aériennes et a même inventé un train qui n’existait pas.

En réponse aux inquiétudes de Kevin Roose, Jack Krawczyk, directeur de Bard chez Google, a maintenu que « Bard Extensions » était encore expérimental et qu’il s’agissait de la première itération du produit.

Malgré ces réserves, la nouvelle extension semble encore très mal préparée, et il n’est pas rassurant que Google ose sortir un produit aussi désordonné – sans parler des lourdes implications en termes de confidentialité des données qu’implique le fait qu’une IA fouille dans vos courriels personnels.

Dans l’ensemble, il est difficile de se défaire du sentiment que dans sa course effrénée pour maintenir sa position dominante dans l’industrie de l’IA, Google pourrait commettre de sérieux faux pas qui pourraient potentiellement se solder par un désastre.

https://www.nytimes.com/2023/09/19/technology/google-bard-ai-chatbot-youtube-gmail.html

https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html