Les affaires « hallucinatoires » ont des répercussions sur la carrière des avocats – ils doivent être formés à l’utilisation de l’IA
infohightech ·
L'intelligence artificielle générative, qui produit du contenu original à partir de vastes ensembles de données existants, est considérée comme un outil révolutionnaire pour les juristes. De la rédaction de contrats à la synthèse de jurisprudence, les outils d'IA générative tels que ChatGPT et Lexis+ AI promettent rapidité et efficacité.
Mais les tribunaux anglais constatent désormais un aspect plus sombre de l'intelligence artificielle générative. Il s'agit notamment de cas fabriqués de toutes pièces, de citations inventées et de références trompeuses insérées dans les documents judiciaires.
En tant que spécialiste des interactions entre technologie et droit, j'estime qu'il est essentiel de former les juristes aux bonnes pratiques d'utilisation de l'IA générative. Ils doivent pouvoir éviter non seulement les sanctions liées à la violation des règles, mais aussi le risque de voir se développer un système juridique où la justice se fonde sur une jurisprudence fabriquée de toutes pièces.
Le 6 juin 2025, la Haute Cour a rendu un jugement historique dans deux affaires distinctes : Frederick Ayinde contre le London Borough of Haringey et Hamad Al-Haroun contre Qatar National Bank QPSC et QNB Capital LLC.
Le tribunal a réprimandé un élève-avocat et un solicitor dont les plaidoiries contenaient des références jurisprudentielles fictives et inexactes. Les juges ont été clairs : « les outils d’intelligence artificielle générative librement accessibles… ne sont pas capables de mener des recherches juridiques fiables ».
Dès lors, le recours à des résultats d'IA non vérifiés ne saurait plus être excusé par une erreur ou un oubli. Les avocats, qu'ils soient débutants ou expérimentés, sont pleinement responsables des éléments qu'ils présentent au tribunal.
Jurisprudence hallucinée
Les « hallucinations » de l'IA – la production assurée d'informations inexistantes ou erronées – sont un phénomène bien documenté. Les affaires juridiques n'y font pas exception. Des recherches récentes ont montré que les taux d'hallucinations varient de 58 % à 88 % en réponse à des questions juridiques spécifiques, souvent sur des sujets précis que les avocats sont appelés à résoudre.
Ces erreurs ont désormais des répercussions concrètes sur les procédures judiciaires. Dans l' affaire Ayinde , l'avocat stagiaire a cité une affaire inexistante. L'exemple erroné avait été attribué par erreur à un numéro de dossier authentique, appartenant à une affaire totalement différente.
Dans l'affaire Al-Haroun, un avocat a cité 45 cas fournis par son client. Parmi ceux-ci, 18 étaient fictifs et beaucoup d'autres non pertinents. Le greffier est cité dans le jugement : « La grande majorité des décisions sont inventées ou mal interprétées. »
Ces incidents mettent en lumière une profession confrontée à une situation critique : des juristes surchargés, des outils d'IA de plus en plus puissants mais peu fiables, et des tribunaux qui refusent désormais de considérer les erreurs comme de simples accidents. Pour les jeunes avocats, les conséquences sont dramatiques.
Nombreux sont ceux qui expérimentent l'IA par nécessité ou par curiosité. Cependant, faute de formation permettant de déceler les hallucinations, les jeunes avocats risquent de voir leur réputation compromise avant même que leur carrière n'ait véritablement commencé.
La Haute Cour a opté pour une approche disciplinaire, imputant la responsabilité à l'individu et à ses supérieurs. Ceci soulève une question cruciale : les jeunes avocats sont-ils sanctionnés trop sévèrement pour ce qui relève, au moins en partie, d'un manque de formation et d'encadrement ?
L'éducation comme prévention
Les facultés de droit enseignent depuis longtemps les méthodes de recherche, l'éthique et les règles de citation. La nouveauté réside dans la nécessité d'adapter ces mêmes compétences à l'intelligence artificielle générative.
Alors que de nombreuses facultés de droit et universités explorent l'IA au sein de leurs modules ou créent de nouveaux modules consacrés à l'IA, on observe une évolution plus large vers une réflexion sur la manière dont l'IA transforme le secteur juridique dans son ensemble.
Les étudiants doivent apprendre pourquoi l'IA produit des hallucinations, comment concevoir des invites de manière responsable, comment vérifier les résultats à l'aide de bases de données faisant autorité et dans quels cas l'utilisation de tels outils peut être inappropriée.
L'insistance de la Cour suprême sur la responsabilité est justifiée. L'intégrité de la justice repose sur des citations exactes et une plaidoirie honnête. Mais la solution ne saurait se limiter à la seule sanction.
Si l'IA fait partie intégrante de la pratique juridique, la formation et la maîtrise de l'IA doivent être intégrées à la formation juridique. Les organismes de réglementation, les instances professionnelles et les universités ont la responsabilité collective de veiller à ce que les jeunes avocats n'apprennent pas par l'erreur ou dans l'environnement le plus impitoyable qui soit : la salle d'audience.
Des problèmes similaires ont été rencontrés avec des personnes non juristes. Dans une affaire civile à Manchester , un justiciable non représenté a admis avoir utilisé ChatGPT pour générer des références juridiques à l'appui de son argumentation. Il s'est présenté au tribunal avec quatre citations : une entièrement inventée et trois comportant de véritables noms d'affaires, mais avec des citations fictives qui leur étaient attribuées.
Bien que les documents soumis aient paru légitimes, un examen plus approfondi par l'avocat de la partie adverse a révélé que les paragraphes en question étaient inexistants. Le juge a reconnu que le plaideur avait été induit en erreur par l'outil d'intelligence artificielle et n'a infligé aucune sanction. Cette affaire illustre à la fois les risques liés à l'utilisation de contenus non vérifiés générés par l'IA dans le cadre d'une procédure judiciaire et les difficultés rencontrées par les parties non représentées pour s'orienter dans les méandres du système judiciaire.
Le message d'Ayinde et d'Al-Haroun est simple mais profond : l'utilisation de l'IA générale ne diminue pas le devoir professionnel de l'avocat, elle le renforce. Pour les jeunes avocats, ce devoir se fera sentir dès le premier jour. Le défi pour les enseignants en droit est de préparer les étudiants à cette réalité, en intégrant la vérification par l'IA, la transparence et le raisonnement éthique dans les programmes d'enseignement.