L'IA diminue le contenu généré par l'homme, ce qui limite les données pour l'entraînement de l'IA

L'utilisation de ChatGPT a entraîné une diminution du contenu généré par l'homme, les gens posant moins de questions en ligne et y répondant moins souvent, selon une nouvelle étude de l'université Corvinus de Budapest.

Le contenu et les discussions en ligne sont utilisés par les gens pour apprendre de nouvelles choses et résoudre des problèmes, et sont essentiels pour former l'IA, en particulier les grands modèles de langage (LLM) comme ChatGPT.

Johannes Wachs, professeur associé à l'université Corvinus, et ses collègues de l'UCL et de la LMU de Munich, ont étudié l'impact de ChatGPT sur la génération de données ouvertes sur Stack Overflow, une plateforme de questions-réponses en ligne pour les programmeurs informatiques et une source essentielle de données d'entraînement pour les LLM.

Les chercheurs ont constaté qu'après l'introduction de ChatGPT, il y a eu une forte diminution de la création de contenu humain : Les utilisateurs de ChatGPT sont moins susceptibles de poster des questions et des réponses sur la plateforme ou de la visiter régulièrement.

Comme les gens utilisent davantage ChatGPT plutôt que des bases de données de connaissances en ligne ou des plateformes qui permettent la discussion, déplaçant ainsi le comportement humain qui génère les données sur lesquelles l'IA est entraînée, la qualité et la quantité de données disponibles pour l'entraînement de l'IA future diminuent.

« La diminution de la production de données ouvertes limitera la formation des futurs modèles. Le contenu généré par le LLM lui-même est probablement un substitut inefficace aux données d'entraînement générées par les humains dans le but d'entraîner de nouveaux modèles. Former un LLM sur du contenu généré par le LLM revient à faire une photocopie d'une photocopie, ce qui donne des résultats de moins en moins satisfaisants », déclare le professeur Wachs.

Les chercheurs expliquent que nous devrions en priorité encourager les gens à échanger des informations et des connaissances en ligne entre eux, et ne pas compter uniquement sur l'IA et les LLM.

Ces résultats ont été publiés pour la première fois dans la revue PNAS Nexus.

https://academic.oup.com/pnasnexus/article/3/9/pgae400/7754871