Les juges américains en ont assez des avocats qui utilisent l'IA pour halluciner les affaires judiciaires
infohightech ·
Après qu'un groupe d'avocats a été surpris en train d'utiliser l'IA pour citer des cas qui n'existaient pas réellement dans les documents judiciaires le mois dernier, un autre avocat a été condamné à payer 15 000 dollars pour ses propres hallucinations d'IA qui sont apparues dans plusieurs dossiers.
L'avocat Rafael Ramirez, qui représentait une société appelée HoosierVac dans une affaire en cours où le Mid Central Operating Engineers Health and Welfare Fund affirme que la société ne permet pas au syndicat un audit complet de ses livres et registres, a déposé un mémoire en octobre 2024 qui citait une affaire que le juge n'a pas pu localiser. Rafael Ramirez « a reconnu que la citation référencée était une erreur », a retiré la citation et « s'est excusé auprès du tribunal et de l'avocat adverse pour la confusion », selon le juge Mark Dinsmore , juge magistrat américain pour le district sud de l'Indiana. Mais ce n'était pas la fin de l'affaire. Un « examen exhaustif » des autres documents déposés par Rafael Ramirez dans l'affaire a montré qu'il avait également inclus des cas inventés dans deux autres mémoires.
« M. Ramirez a expliqué qu’il avait déjà utilisé l’IA pour l’aider dans des affaires juridiques, comme la rédaction d’accords, et qu’il ne savait pas que l’IA était capable de générer des cas et des citations fictifs », a écrit le juge Dinsmore dans des documents judiciaires déposés la semaine dernière. « Ces « citations d’hallucinations », a affirmé M. Ramirez, comprenaient des extraits de texte qui semblaient crédibles. En tant que tel, M. Ramirez n’a pas mené d’autres recherches, ni tenté de vérifier l’existence des citations générées. M. Ramirez a indiqué qu’il a depuis suivi des cours de formation juridique continue sur le thème de l’utilisation de l’IA et continue d’utiliser des produits d’IA dont on lui a assuré qu’ils ne produiront pas de « citations d’hallucinations ». »
Mais l’explication et la promesse de Rafael Ramirez de s’informer sur l’utilisation de l’IA n’ont pas suffi, et le juge lui a reproché de ne pas avoir fait ses recherches avant de déposer sa plainte. « Il est tout à fait clair que M. Ramirez n’a pas fait l’enquête raisonnable requise sur la loi. S’il avait déployé le moindre effort pour le faire, il aurait découvert que les cas générés par l’IA n’existent pas. Le fait que les extraits générés par l’IA semblent valables à M. Ramirez ne le dispense pas de son devoir de mener une enquête raisonnable », a poursuivi le juge Dinsmore, avant de recommander que Ramirez soit condamné à une amende de 15 000 $.
Le juge a écrit qu’il « ne cherche pas à suggérer que l’IA est intrinsèquement mauvaise ou que son utilisation par les avocats devrait être interdite », et a noté qu’il est un fervent défenseur de l’utilisation de la technologie dans la profession juridique. « Néanmoins, tout comme une tronçonneuse ou d’autres outils utiles [mais] potentiellement dangereux, il faut comprendre les outils que l’on utilise et les utiliser avec prudence », a-t-il écrit. « Il va sans dire que toute utilisation de l’intelligence artificielle doit être conforme aux obligations éthiques et professionnelles des avocats. En d’autres termes, l’utilisation de l’intelligence artificielle doit s’accompagner de l’application d’une intelligence réelle dans son exécution. »
En janvier , dans le cadre d’une affaire distincte contre un fabricant d’hoverboards et Walmart qui réclamaient des dommages et intérêts pour une batterie au lithium prétendument défectueuse, les avocats ont déposé des documents judiciaires citant une série de cas qui n’existent pas. En février, le juge de district américain Kelly a exigé qu’ils expliquent pourquoi ils ne devraient pas être sanctionnés pour avoir fait référence à huit cas inexistants. Les avocats ont admis avec contrition avoir utilisé l’IA pour générer les cas sans détecter les erreurs, et ont qualifié cela de « récit édifiant » pour le reste du monde juridique.
La semaine dernière, le juge Rankin a imposé des sanctions à ces avocats, selon de nouveaux documents, notamment en révoquant l'admission pro hac vice de l'un des avocats (terme juridique signifiant qu'un avocat peut temporairement exercer dans une juridiction où il n'est pas agréé) et en le retirant de l'affaire, et les trois autres avocats de l'affaire ont été condamnés à une amende comprise entre 1 000 et 3 000 dollars chacun.