Skip to main content

5 Juil, 2024

Des chercheurs de Google publient un article sur la façon dont l’IA ruine l’Internet

Des chercheurs de Google publient un article sur la façon dont l’IA ruine l’Internet

Google essaie de trouver le responsable de tout cela.

N’est-ce pas ironique ? Des chercheurs de Google ont publié un nouvel article qui met en garde contre le fait que l’IA générative ruine de vastes pans de l’internet avec du faux contenu – ce qui est douloureusement ironique, car Google a travaillé dur pour proposer la même technologie à son énorme base d’utilisateurs.

L’étude, qui n’a pas encore fait l’objet d’un examen par les pairs et qui a été repérée par 404 Media, révèle que la grande majorité des utilisateurs de l’IA générative exploitent cette technologie pour « brouiller les pistes entre l’authenticité et la tromperie » en publiant sur l’internet des contenus d’IA falsifiés ou trafiqués, tels que des images ou des vidéos. Les chercheurs ont également étudié les travaux de recherche précédemment publiés sur l’IA générative et quelque 200 articles de presse relatant des utilisations abusives de l’IA générative.

« La manipulation de l’image humaine et la falsification de preuves sont les tactiques les plus courantes dans les cas réels d’utilisation abusive », concluent les chercheurs. « La plupart de ces tactiques ont été déployées avec l’intention manifeste d’influencer l’opinion publique, de permettre des activités frauduleuses ou de générer des profits.

Le problème est aggravé par le fait que les systèmes d’IA générative sont de plus en plus avancés et facilement accessibles – « nécessitant une expertise technique minimale », selon les chercheurs, et cette situation déforme la « compréhension collective de la réalité sociopolitique ou du consensus scientifique ».

Pour autant que l’on puisse en juger, l’article ne contient aucune référence à l’embarrassante affaire Google. Toute référence aux propres maladresses embarrassantes de Google dans l’utilisation de la technologie – qui, en tant que l’une des plus grandes entreprises de la planète, ont parfois été d’une ampleur considérable.

Prévisions : « Nuageux »

En lisant l’article, on ne peut s’empêcher de conclure que la « mauvaise utilisation » de l’IA générative donne souvent l’impression que la technologie fonctionne comme prévu. Les gens utilisent l’IA générative pour créer de nombreux faux contenus parce qu’elle est vraiment douée pour cette tâche, et inondent donc l’internet de déchets d’IA.

Cette situation est favorisée par Google lui-même, qui a permis la prolifération de ce faux contenu, voire en a été la source, qu’il s’agisse de fausses images ou de fausses informations.

Selon les chercheurs, ce désordre met également à l’épreuve la capacité des gens à discerner le faux du vrai.

« De même, la production massive de contenus synthétiques de faible qualité, de type spam et malveillants risque d’accroître le scepticisme des gens à l’égard de l’information numérique dans son ensemble et de surcharger les utilisateurs de tâches de vérification », écrivent-ils.

Et ce qui est effrayant, c’est qu’étant donné que nous sommes inondés de faux contenus d’IA, les chercheurs affirment qu’il y a eu des cas où « des personnes très connues sont capables d’expliquer des preuves défavorables comme étant générées par l’IA, déplaçant ainsi la charge de la preuve de manière coûteuse et inefficace. »

Alors que des entreprises comme Google continuent d’intégrer l’IA dans tous leurs produits, il faut s’attendre à ce que ce genre de situation se reproduise.

https://futurism.com/the-byte/google-researchers-paper-ai-internet