La propension de ChatGPT à inventer des choses a encore frappé – et cette fois-ci, elle a mis un avocat dans le pétrin.

Comme le décrit une déclaration sous serment datant du début du mois de mai, un avocat représentant un homme qui poursuivait une compagnie aérienne pour un préjudice présumé a admis avoir utilisé le chatbot d’IA afin d’effectuer des recherches dans le cadre de l’affaire de son client. C’est pourquoi, dans son dossier juridique, il a cité une série d’affaires judiciaires – toutes portant des noms officiels tels que « Martinez v. Delta Air Lines » et « Varghese v. China Southern Airlines » – qui ne se sont jamais produites et qui, par conséquent, n’existent pas.

L’avocat, Steven Schwartz, du cabinet Levidow, Levidow & Oberman de Manhattan, a déclaré au tribunal que c’était la première fois en plus de trente ans de carrière qu’il utilisait ChatGPT et que, selon le New York Times, il « ignorait que son contenu pouvait être faux ».

Steven Schwartz a même déclaré au juge, P. Kevin Castel, qu’il avait demandé à ChatGPT de vérifier ses sources. Le chatbot lui a apparemment dit que les cas étaient réels, rapporte le NYT.

Oui, c’est vrai. Un avocat expérimenté a utilisé ChatGPT au tribunal – et a maintenant d’énormes problèmes après avoir fabriqué des pans entiers de précédents juridiques.

Steven Schwartz a déclaré au tribunal qu’il « regrettait beaucoup » d’avoir utilisé ChatGPT pour effectuer ses recherches dans le cadre de l’affaire « et qu’il ne le ferait plus jamais à l’avenir sans une vérification absolue de son authenticité ».

Le juge Castel, cependant, ne semble pas être influencé, et dans son ordonnance du 4 mai, il a décrit en termes très clairs la gravité de la situation.

« Le tribunal est confronté à une situation sans précédent », peut-on lire dans l’ordonnance du juge pour une prochaine audience. « Une soumission déposée par l’avocat du plaignant en opposition à une motion de rejet est remplie de citations d’affaires inexistantes… six des affaires soumises semblent être de fausses décisions judiciaires avec de fausses citations et de fausses citations internes ».

Le mois prochain, le juge Castel tiendra une audience pour discuter de l’opportunité de sanctionner M. Schwartz. En attendant, cette étrange affaire devrait servir de mise en garde aux avocats – et à tous ceux qui souhaitent expérimenter le ChatGPT dans un cadre professionnel.

https://futurism.com/the-byte/lawyer-chatgpt-court

https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.31.0.pdf