Un site d'information basé sur l'IA accuse accidentellement le procureur de district de meurtre
infohightech ·
Aux Etats-Unis, un site d’information local controversé alimenté par l’IA a vraiment fait des pieds et des mains cette semaine – en accusant accidentellement un procureur régional de meurtre.
Comme Techdirt l'a signalé en premier , un article est paru sur Hoodline San Jose — l'un des nombreux sites d'informations locales du réseau médiatique qui couvrent les États-Unis — plus tôt ce mois-ci avec un titre macabre : « Le Procureur Du Comté De San Mateo Accusé De Meurtre Au Cours Des Recherches En Cours Pour Les Restes De La Victime. »
C'est une histoire sombre, sans parler d'un crime qui aurait probablement fait la une des journaux nationaux. Mais il y a une raison importante pour laquelle l'affaire n'a pas été relayée sur les ondes nationales : il y a eu un meurtre, mais le procureur ne l'a pas commis. Ils ont juste inculpé l'homme qui l'aurait commis.
Comme Techdirt l'a découvert, l'IA de Hoodline semble avoir pris un post X-ex-Twitter du compte officiel du bureau du procureur de San Mateo, dans lequel le bureau a partagé un communiqué de presse ordinaire sur un homme du coin - qui n'était pas le procureur - finalement inculpé par le bureau du procureur pour ce crime horrible et l'a tellement déformé qu'il a déclaré que le procureur lui-même avait commis le meurtre macabre. Nous sommes tous innocents jusqu'à ce que l'IA nous accuse de crimes .
Après que Techdirt a dénoncé l'erreur cataclysmique de Hoodline , une note de l'éditeur est apparue en haut de l'article. Elle attribuait l'erreur à une simple « faute de frappe » qui « modifiait malheureusement le sens » de son contenu, « créant ainsi une ambiguïté sur le fait que le procureur et l'accusé sont deux personnes différentes ».
Les erreurs journalistiques sont monnaie courante. Mais en ce qui concerne les erreurs journalistiques, accuser sans vergogne la mauvaise personne de meurtre – sans parler de porter une telle accusation contre un haut fonctionnaire local – est une erreur assez grave.
Ajoutez à cela que Hoodline , qui appartient actuellement à un média obscur appelé Impress3, utilise ouvertement l'IA pour trouver et diffuser des « nouvelles » synthétiques, et c'est la dernière erreur importante d'une organisation médiatique ou d'un fournisseur tiers rémunéré qui tente d' utiliser l'IA pour produire du contenu à moindre coût .
Cette erreur remet également en question les promesses pompeuses de Hoodline selon lesquelles son contenu éditorial est élaboré avec un niveau significatif de surveillance humaine.
« Nous considérons le journalisme comme une science créative et un art qui nécessite une touche humaine », peut-on lire dans la clause de non-responsabilité de l'entreprise concernant l'IA. « Dans notre quête de fournir un contenu informatif et captivant, nous intégrons l'intelligence artificielle (IA) pour soutenir et améliorer nos processus éditoriaux. »
L'article a été attribué à Eileen Vargas, l'une des nombreuses fausses personnalités de journalistes créées par l'IA sur le site. Comme Nieman Lab l'a rapporté plus tôt cette année, la vaste liste de journalistes inventés par Hoodline a suscité un large examen pour avoir feint la diversité raciale dans un secteur qui, en réalité, est majoritairement blanc et masculin.
Cela pourrait également avoir des implications pour Google, une société d'intelligence artificielle qui testerait elle-même des produits d'information basés sur l'IA. Selon Mike Masnick de Techdirt , il a découvert la fausse accusation contre l'IA lorsque l'article de Hoodline est apparu dans son onglet Google News. Et encore une fois, même si les journalistes font des erreurs, l'algorithme de Google qui met en place des accusations erronées de meurtre émises par un réseau d'information explicitement basé sur l'IA suscite des réactions différentes.
Quelle marge de manœuvre faut-il accorder à un site d'information IA dont les normes éditoriales sont clairement faibles ? Et pouvons-nous faire confiance aux algorithmes de tri des informations pour passer au crible la marée montante de contenus générés par les algorithmes ?
Ce que nous pouvons dire avec certitude, c’est que des erreurs comme celles-ci, qu’un journaliste humain travaillant dans le cadre d’un processus éditorial rigoureux aurait très peu de chances de commettre, risquent de devenir de plus en plus courantes à mesure que les éditeurs confient le contrôle à des systèmes d’IA bon marché et à peine supervisés.