Un entrepreneur en IA aux Etats-Unis, a envoyé un avatar pour plaider devant le tribunal – et le juge l'a rapidement stoppé

« Je n’apprécie pas d’être induit en erreur. »

Le fondateur d'une startup d'IA qui a tenté d'utiliser un avatar généré artificiellement pour défendre sa cause devant le tribunal a été réprimandé par un juge pour ce coup monté. L'avatar - son apparence et sa voix créées par un logiciel - est apparu au nom de Jerome Dewald, le plaignant dans un conflit de travail avec la compagnie d'assurance MassMutual Metro New York, lors d'une audience le 26 mars devant la division d'appel de la Cour suprême de l'État américain.

Lors des plaidoiries, Jerome Dewald a demandé la diffusion d'une vidéo montrant un homme portant un pull à col en V devant le panel de cinq juges. La vidéo commençait ainsi : « S'il plaît à la Cour, je viens ici aujourd'hui en humble pro se devant un panel de cinq juges éminents… » Un pro se étant une personne se représentant elle-même.

L'IA génératrice d'erreurs... Le moment de l'audience de Jerome Dewald où son avatar généré par l'IA a été diffusé au tribunal, comme on le voit dans la diffusion en direct des débats

Déconcertée par l'interlocuteur inconnu, l'une des juges, la juge associée Sallie Manzanet-Daniels, l'interrompit aussitôt pour demander qui s'adressait au tribunal. « Est-ce… un instant ? Est-ce l'avocat de l'affaire ? »

« Ça ? C'est moi qui l'ai créé », a répondu Jerome Dewald, qui était physiquement assis devant le panel de juges lors de l'audience.

« Je suis désolé ? » dit le juge.

« C'est moi qui l'ai créé », répéta Jerome Dewald. « Ce n'est pas une vraie personne. »

« D'accord », rétorqua le juge. « J'aurais aimé le savoir lors de votre demande. Vous ne me l'avez pas dit, monsieur. »

Cette demande concernait la diffusion d'une vidéo dans laquelle il plaidait sa cause, car, selon lui, son état de santé l'empêchait de s'adresser longuement et facilement au tribunal. Le jury ne s'attendait toutefois pas à la présence d'une personne imaginée par ordinateur.

« Vous avez déjà comparu devant ce tribunal et témoigné oralement », a poursuivi la juge Manzanet-Daniels. « Vous vous êtes rendu à mon greffe et avez eu des conversations orales avec notre personnel pendant plus de 30 minutes. »

« Je n'apprécie pas d'être induit en erreur. Soit vous souffrez d'une maladie qui vous empêche de vous exprimer, soit vous ne le faites pas. Vous n'allez pas utiliser cette salle d'audience comme point de départ pour votre affaire, monsieur. Si vous souhaitez plaider, vous pouvez vous lever et me l'accorder. »

Problème de voix ? Ou coup monté de l'IA ?

Dans une interview accordée au Register cette semaine, Jerome Dewald a déclaré : « J'ai demandé l'autorisation préalable au tribunal et il me l'a accordée. Ils n'étaient donc pas pris au dépourvu par la présentation. Ils n'étaient pas préparés à voir une image générée artificiellement. »

La référence du juge à une maladie fait référence au cancer de la gorge dont Jerome Dewald a été atteint il y a 25 ans. « Parler longtemps est problématique pour moi », a-t-il expliqué. « Je peux raconter les différents événements qui se sont produits, mais c'est en partie pour cette raison qu'ils ont accepté de me laisser faire la présentation. »

Jerome Dewald, qui dirige une startup appelée Pro Se Pro qui vise à aider les plaideurs non représentés à naviguer dans le système juridique américain sans engager d'avocats, avait prévu d'utiliser un service d'IA appelé Tavus pour créer un avatar vidéo réaliste de lui-même pour lire son argumentation au tribunal.

« J'ai obtenu une autorisation préalable », a-t-il affirmé. « J'avais l'intention d'utiliser ma propre réplique, une image de moi en train de parler. Mais la technologie est relativement récente. Je n'avais jamais réalisé de réplique de moi-même ou de qui que ce soit auparavant. »

Digital Jerome Dewald n'a pas livré, alors il a envoyé Jim

Jerome Dewald a expliqué que le processus de création d'un avatar pour comparaître au tribunal consiste à fournir à Tavus une vidéo de deux à quatre minutes du sujet en train de parler, ainsi qu'un segment d'une minute le montrant immobile. Ce matériel est utilisé pour générer la réplique numérique du sujet, un processus qui prend environ deux à quatre heures. Il a finalement utilisé un avatar par défaut, appelé Jim, plutôt qu'un de lui-même.

« Avec mon forfait de base, je n'ai que trois répliques à générer par mois », explique Jerome Dewald. « J'ai donc essayé d'être prudent. J'en ai essayé une. Elle est tombée en panne au bout de six heures environ. J'en ai essayé une autre. Elle est tombée en panne au bout de huit heures environ. Et au moment où nous nous préparions pour l'audience, je n'avais toujours pas ma propre réplique. J'ai donc utilisé une de leurs répliques standard, ce grand et beau mec qu'ils appellent Jim. »

Pas réel... Jim, l'un des avatars par défaut générés par Tavus, dans une vidéo de démonstration, le genre utilisé par Jerome Dewald pour son audition

« Jim » n'a pu prononcer que quelques mots lors de l'audience avant d'être interrompu.

« Vous voyez bien que la juge était contrariée, vraiment contrariée au début », a déclaré Jerome Dewald, qui a fini par s'adresser lui-même au tribunal. « Et puis, quand j'ai commencé ma présentation, aussi médiocre soit-elle, elle a semblé beaucoup plus compréhensive. Son expression ressemblait plutôt à : "Eh bien, je suis désolée de vous avoir autant engueulée." »

D'un conflit judiciaire à un projet d'IA au point mort

Bien qu'il y ait eu plusieurs cas d'avocats réprimandés par des juges pour avoir déposé des documents judiciaires contenant des inexactitudes générées par l'IA, Jerome Dewald pense que la colère du juge dans cette affaire était due au fait qu'il avait été surpris par une personne inattendue lors de la présentation vidéo.

Interrogé sur la question de savoir si la réaction du tribunal l'incitait à s'interroger sur la viabilité des applications de l'IA en matière juridique, Jerome Dewald a répondu : « Je ne sais pas, mais la technologie a évolué très rapidement. Vous connaissez mon site : nous sommes assez consultés, mais nous n'en tirons pas beaucoup de bénéfices. »

Jerome Dewald a déclaré qu'il n'avait pas pu développer son activité juridique d'IA en raison d'un manque de financement et d'autres préoccupations, de sorte qu'elle était restée sans surveillance pendant environ un an.

« Dans le monde de l'intelligence artificielle, une année, c'est comme une éternité », a-t-il déclaré. « Lorsque j'ai publié ce document, nous travaillions encore sur ChatGPT-3.5. Notre pièce maîtresse était un analyseur de scénarios. Il s'agit d'un outil d'IA qui interroge un plaideur pro se et lui donne ensuite des conseils. Je dirais que ce n'est pas un avis juridique, mais on peut argumenter comme on veut. »

Et ce projet a plutôt bien fonctionné. Il s'agissait d'une pile technologique comprenant des composants Amazon désormais obsolètes. Et le paysage a tellement changé que ce site doit être reconstruit avec l'IA agentique, car on peut faire tellement plus.

Pas une démonstration de produit

Jerome Dewald a minimisé l'avertissement du juge de ne pas utiliser le tribunal comme un lieu de promotion pour son entreprise. « Il n'y avait rien-là qui puisse promouvoir mon entreprise », a-t-il déclaré.

Interrogé sur l'opportunité d'accepter l'IA dans les salles d'audience, Jerome Dewald a déclaré : « Je pense que les tribunaux la considèrent avec beaucoup de scepticisme. Concernant la réplique et la présentation que j'ai réalisées, il ne pouvait y avoir d'hallucinations, à moins qu'il n'y ait eu des hallucinations du script que je leur ai donné à lire. J'ai utilisé une IA générative pour rédiger le script, mais je l'ai également vérifié très minutieusement. Je fais cela depuis longtemps. »

Jerome Dewald a une formation en ingénierie et en informatique, et n'est pas avocat. Il a déclaré avoir été admis à la faculté de droit de New York dans les années 1970, mais ne jamais y avoir étudié. Il a également indiqué avoir récemment passé un concours d'admission en droit, être membre de plusieurs barreaux et suivre l'évolution de l'utilisation de l'IA dans le droit.

Parlez de votre IA au tribunal, puis regardez-les vous en tenir rigueur.

Citant une table ronde avec plusieurs juges de New York il y a environ un an, il a déclaré que la recommandation était que l'utilisation de l'IA soit divulguée à votre adversaire et au tribunal.

« Je fais ça depuis plus d'un an », a déclaré Jerome Dewald. « Je ne suis pas certain de son utilité, car à certains égards, la divulgation complète et ouverte d'informations peut parfois être discriminatoire. Elle tend à créer des préjugés chez les lecteurs, car il existe une vision très négative des hallucinations et de l'IA. »

Il a déclaré que les hallucinations représentent un réel problème pour l'IA, tout comme les erreurs de citation et l'interprétation erronée des prémisses d'une affaire. Il a ajouté qu'il est très rigoureux dans la vérification de l'exactitude des résultats de l'IA.

Jerome Dewald a évoqué un récent séminaire de l'American Bar Association, intitulé « Navigating Artificial Intelligence in the Judiciary » , qui couvrait les lignes directrices pour l'utilisation responsable des outils d'IA par les magistrats.

Le séminaire aborde les préoccupations courantes concernant l'IA, telles que les biais de modélisation, les hallucinations et la confidentialité. Il évoque également la nécessité de repousser les limites des normes juridiques, comme c'est le cas lorsque des modèles d'IA sont utilisés pour générer des résultats hors du cadre judiciaire, susceptibles d'être présentés comme des témoins experts non accrédités.

Les tribunaux ont également adopté l'IA. Comme le souligne le séminaire, les tribunaux de l'Arizona ont déployé des avatars numériques pour synthétiser les décisions.

Jerome Dewald estime que l'IA peut aider les plaideurs pro se et « tend en fait à donner du pouvoir aux plaideurs non représentés, car elle leur donne une voix qu'ils n'auraient normalement pas dans la salle d'audience ».

Il a ajouté qu'il avait déjà présenté des excuses au tribunal car c'était « une erreur de ne pas être totalement transparent » et a averti les juges que son argument serait présenté par un avatar. ®

https://www.theregister.com/2025/04/09/court_scolds_ai_entrepreneur_avatar_testify