« C’est étrangement créatif, ingénieux et inhabituel à bien des égards… et puis ça vous trahit d’une manière vraiment horrible. »

Même après avoir été pris la main dans le sac — et violemment critiqué — pour avoir utilisé l’IA afin d’écrire son livre sur l’IA, un auteur affirme qu’il n’abandonne pas cette technologie.

Alors que de nombreux scandales liés à l’utilisation de l’IA dans l’écriture portent sur la faute artistique de laisser une machine dicter son processus créatif, l’offense commise par Steven Rosenbaum, auteur de « The Future of Truth: How AI Reshapes Reality », était d’ordre journalistique. Une enquête récente du New York Times a révélé que son livre contenait plus d’une demi-douzaine de citations fabriquées ou mal attribuées, après que certaines personnes « citées » dans l’ouvrage se soient manifestées pour confirmer n’avoir jamais tenu les propos que Rosenbaum leur avait attribués. Il s’agissait en fait d’hallucinations générées par l’IA, Rosenbaum admettant au journal avoir utilisé des outils comme ChatGPT et Claude lors de ses recherches, de la rédaction et de la correction de son livre.

Après la tempête de polémiques déclenchée par ces révélations pour le moins ironiques — le livre, après tout, traite explicitement de l’influence de l’IA sur notre conception collective de la vérité —, Rosenbaum affirme avoir « tiré une leçon » et se montrer désormais « beaucoup plus méfiant » à l’égard des résultats de l’IA. Or, on peut légitimement se demander quelle leçon il a réellement retenue de tout cela, car il a également déclaré ne jamais vouloir revenir à la méthode d’écriture traditionnelle, sans IA.

« L’idée de faire une pause de X années [avec l’IA] le temps qu’elle se stabilise, et de revenir à des logiciels comme Microsoft Word… ce n’est tout simplement pas dans ma nature », a déclaré Rosenbaum à Ars Technica lors d’une interview suite au fiasco. « [L’IA] est magique. Parce qu’elle connecte, elle tisse des liens entre les idées et nous ouvre des perspectives pour envisager des choses auxquelles nous n’aurions jamais pensé par nous-mêmes. »

Tout au long de l’entretien, Rosenbaum a décrit ses assistants IA d’une manière étonnamment anthropomorphique, allant jusqu’à qualifier l’IA de « charmant compagnon d’écriture ».

« Quand je parle de “compagnon d’écriture”, je ne l’emploie pas à la légère », a-t-il déclaré au média. « C’est étrangement créatif, ingénieux et inhabituel à bien des égards… et puis cela vous trahit de manière vraiment horrible. »

Il était difficile de ne pas s’interroger sur le potentiel addictif de la technologie lorsque Rosenbaum justifiait son engouement pour l’IA par des analogies pour le moins étranges. Il comparait l’évaluation des avantages et des risques liés à cette technologie aux questions que se poserait un toxicomane ou un alcoolique, tout en affirmant n’avoir « jamais été dans une situation où j’ai pensé que la technologie que j’utilisais était à la fois enivrante et dangereuse ».

Rosenbaum a également comparé l’utilisation de l’IA à son choix de faire du vélo plutôt que de la moto. Lorsque l’intervieweur a remis en question sa présentation de l’IA comme l’option plus sûre du « vélo », faisant valoir que la productivité accrue de l’IA s’accompagne d’un risque évident d’erreurs la rapprochant davantage de la moto, Rosenbaum a dû admettre que l’argument de l’intervieweur « pouvait être pertinent ».

Rosenbaum n’est pas le seul à avoir commis cette erreur. Plusieurs livres et nouvelles ont été au cœur de scandales cette année, accusés d’avoir été écrits avec l’aide d’une intelligence artificielle, notamment un roman d’horreur retiré de la vente par son éditeur . Les rédactions ont également été touchées par la controverse liée à l’IA, comme lorsque le New York Times et Ars ont publié des articles contenant par erreur des citations qui se sont avérées être des résumés ou des fabrications d’IA, remplaçant les propos exacts de la personne à qui elles étaient attribuées.

Mais la bourde de Rosenbaum est particulièrement flagrante, et pas seulement en raison du sujet de son livre. Il s’agit d’un ouvrage de non-fiction, étayé par les commentaires d’experts du secteur, ayant fait l’objet de multiples relectures et vérifications, et publié par une grande maison d’édition. Rosenbaum a-t-il seulement pris conscience de la gravité de la situation ? Il ne semblait pas particulièrement critique envers lui-même.

« Je pense que nous avons effectué ces vérifications [doubles vérifications] de manière extrêmement efficace, mais pas à 100 % », a déclaré Rosenbaum à Ars. « Nous faisons notre travail, nous faisons de notre mieux. Nous vérifions, tout semble correct. Nous revérifions, et puis nous commettons une erreur. »

https://futurism.com/artificial-intelligence/man-humiliated-by-ai-cant-quit