L'IA semble se tuer lentement
infohightech ·
Les textes et images générés par l’IA inondent le Web — une tendance qui, ironiquement, pourrait constituer un énorme problème pour les modèles d’IA génératifs.
Comme l'écrit Aatish Bhatia pour le New York Times , de plus en plus de recherches montrent que l'entraînement de modèles d'IA génératifs sur des contenus générés par l'IA entraîne une érosion des modèles. En bref, l'entraînement sur des contenus d'IA provoque un cycle d'aplatissement similaire à la consanguinité ; le chercheur en IA Jathan Sadowski a surnommé l'année dernière ce phénomène « IA des Habsbourg », en référence à la célèbre famille royale consanguine d'Europe.
Et selon le NYT , la montée en puissance du contenu IA sur le Web pourrait rendre beaucoup plus difficile d’éviter cet effet d’aplatissement.
Les modèles d’IA sont extrêmement gourmands en données, et les entreprises d’IA se sont appuyées sur de vastes quantités de données récupérées sur le Web pour former leurs programmes voraces. Cependant, à l’heure actuelle, ni les entreprises d’IA ni leurs utilisateurs ne sont tenus d’apposer des mentions d’IA ou des filigranes sur le contenu d’IA qu’ils génèrent, ce qui rend d’autant plus difficile pour les fabricants d’IA d’exclure le contenu synthétique des ensembles d’entraînement d’IA.
« Le Web devient un endroit de plus en plus dangereux pour rechercher vos données », a déclaré au NYT Sina Alemohammad, étudiante diplômée de l'université Rice, co -auteur d'un article de 2023 qui a inventé le terme « MAD » - abréviation de « Model Autophagy Disorder » - pour décrire les effets de l'autoconsommation de l'IA .
Un exemple, certes très amusant, des effets de la consanguinité de l’IA signalé par le NYT est tiré d’une nouvelle étude, publiée le mois dernier dans la revue Nature . Les chercheurs, une cohorte internationale de scientifiques basés au Royaume-Uni et au Canada, ont d’abord demandé à des modèles d’IA de compléter le texte de la phrase suivante : « Pour faire cuire une dinde pour Thanksgiving, vous… »
Le premier résultat était normal. Mais dès la quatrième itération, le modèle débitait un charabia complet : « Pour faire cuire une dinde pour Thanksgiving, vous devez savoir ce que vous allez faire de votre vie si vous ne savez pas ce que vous allez faire de votre vie si vous ne savez pas ce que vous allez faire de votre vie… »
Mais le charabia n’est pas le seul effet secondaire négatif possible du cannibalisme de l’IA. L’étude MAD, qui s’est concentrée sur des modèles d’images, a montré que l’alimentation des sorties d’IA de faux portraits humains provoquait rapidement une convergence bizarre des traits du visage.
Bien que les chercheurs aient commencé avec un ensemble diversifié de visages générés par l’IA, au quatrième cycle de génération – est-ce un nombre magique en IA, pour une raison quelconque ? – presque tous les visages se ressemblaient. Étant donné que le biais algorithmique est déjà un énorme problème, le risque que l’ingestion accidentelle d’une trop grande quantité de contenu d’IA contribue à réduire la diversité des sorties est grand.
Les données de haute qualité, créées par l’homme – et en grande quantité – sont au cœur des avancées récentes des technologies d’IA génératrices existantes. Mais avec le contenu généré par l’IA qui brouille les pistes numériques et l’absence de moyen fiable de distinguer le vrai du faux, les entreprises d’IA pourraient bientôt se retrouver face à un mur dangereux .