Skip to main content

10 Juin, 2024

NewsBreak, une application d’information populaire est prise en flagrant délit de publication d’articles d’information complètement faux

NewsBreak, une application d’information populaire est prise en flagrant délit de publication d’articles d’information complètement faux

« Vous faites du mal en publiant ces fausses informations ».

NewsBreak, l’application d’actualités la plus téléchargée aux États-Unis, a publié des articles d’actualité inventés par l’IA, comme le révèle une enquête de Reuters.

L’application, dirigée par le PDG Jeff Zheng, est un agrégateur d’actualités qui syndique des nouvelles sous licence provenant d’une série d’éditeurs nationaux et internationaux. Dernièrement, elle a utilisé l’IA pour réécrire et republier des informations locales et des communiqués de presse récupérés sur le web. Mais selon Reuters, les efforts de NewsBreak en matière d’IA ont été truffés d’erreurs conséquentes : depuis 2021, le service aurait publié au moins 40 articles inexacts générés par l’IA, dont un grand nombre sous des titres inventés.

Nombre de ces faux articles d’IA ont eu un impact dans le monde réel. Selon le rapport, plusieurs articles de NewsBreak ont affirmé de manière répétée et inexacte qu’une cuisine alimentaire du Colorado distribuait de la nourriture à des heures où ce n’était pas le cas, ce qui a obligé la cuisine à refuser des membres de la communauté affamés. Un problème similaire s’est posé en Pennsylvanie, où des articles NewsBreak générés par l’IA ont affirmé à tort qu’une organisation caritative locale allait organiser une clinique de soins des pieds 24 heures sur 24 pour les sans-abri.

Faire du mal

« L’association caritative a écrit à NewsBreak dans un courriel daté de janvier, selon Reuters, en ajoutant que « les sans-abri se rendront à pied à ces endroits pour assister à une clinique qui n’existe pas ».

Dans un autre cas signalé par Reuters, NewsBreak a publié un article élaboré par l’IA sur une prétendue fusillade survenue le jour de Noël dans le New Jersey, qui s’est avérée entièrement fausse, obligeant la police locale à publier une déclaration.

« Rien de semblable à cette histoire ne s’est produit le jour de Noël ou aux alentours, ni même de mémoire récente dans la zone décrite », peut-on lire dans la réponse de la police, selon Reuters. « Il semble que l’IA de cet organe de presse écrive des fictions qu’elle n’a aucun problème à publier pour ses lecteurs.

Ces cinq articles erronés auraient été publiés sous des titres inexistants, ce qui a encore brouillé le flux d’informations déjà mauvaises, sans parler de l’intégrité et de la fiabilité de la plateforme dans son ensemble.

Sonnette d’alarme

Le problème n’est pas passé inaperçu en interne.

Dans un mémo adressé à Jeff Zheng en mai 2022, Norm Pearlstine – un ancien rédacteur en chef du Wall Street Journal et du Los Angeles Times qui était consultant pour NewsBreak à l’époque – a attiré l’attention sur les pratiques douteuses de NewsBreak en matière d’IA, disant au PDG qu’il ne pouvait pas « penser à un moyen plus rapide de détruire la marque NewsBreak », d’après Reuters.

Mais NewsBreak n’a pas cessé d’utiliser l’outil d’IA. Et en mars de cette année, selon Reuters, il a mis en garde dans un avertissement sur sa page d’accueil que ses articles « ne sont pas toujours exempts d’erreurs ».

C’est une mauvaise image pour le service, qui se targue d’être « la première application d’informations locales du pays » à une époque où les informations locales connaissent un déclin rapide et inquiétant. Et malheureusement, ce n’est que le dernier agrégateur d’actualités et d’informations en date à faire des ravages sur son produit de base avec l’IA.

https://www.reuters.com/technology/top-news-app-us-has-chinese-origins-writes-fiction-with-help-ai-2024-06-05

https://www.axios.com/2023/11/16/newspapers-decline-hedge-funds-research