Skip to main content

1 Juil, 2024

Perplexity « cite » déjà des spams générés par l’IA remplis d’erreurs

Perplexity « cite » déjà des spams générés par l’IA remplis d’erreurs

« Si les sources sont des hallucinations de l’IA, alors la sortie l’est aussi. »

Sources pas si fiables: Un nouveau rapport de Forbes révèle que Perplexity , l’outil de recherche d’IA très animé et lourdement financé, embourbé dans le plagiat et les allégations secrètes de scraping de sites Web , cite du spam de mauvaise qualité généré par l’IA à partir de blogs sommaires et de publications LinkedIn mal informées.

Les rapports de Forbes se basent en grande partie sur une analyse approfondie de Perplexity menée par GPTZero , une start-up spécialisée dans la détection de contenu généré par l’IA. Dans un blog  publié plus tôt ce mois-ci, le PDG de GPTZero, Edward Tian, ​​a noté qu’il avait remarqué un « nombre croissant de sources liées à Perplexity qui sont elles-mêmes générées par l’IA ». Lorsque Tian a ensuite examiné la régurgitation de ces informations par l’IA de Perplexity, il s’est rendu compte que, dans certains cas, Perplexity semblait même recracher des informations obsolètes et incorrectes à partir de ces sources générées par l’IA.

En d’autres termes, il s’agit d’une boucle de désinformation pilotée par l’IA, dans laquelle les erreurs et les fabrications de l’IA se retrouvent dans les réponses générées par l’IA de Perplexity. Et pour une startup déjà en difficulté qui prétend « révolutionner la façon dont vous découvrez l’information » en offrant des « connaissances précises » grâce à des informations « à jour » provenant de « sources fiables », c’est un regard terrible.

« La perplexité est aussi bonne que ses sources », a déclaré Edward Tian à Forbes . « Si les sources sont des hallucinations de l’IA, alors la sortie l’est aussi. »

Mauvaise source

Prenez, par exemple, la réponse de Perplexity à la question « Festivals culturels à Kyoto, Japon ». En réponse, Perplexity a dressé une liste cohérente des attractions culturelles de la ville japonaise. Mais il n’a cité qu’une seule source : un obscur article de blog publié sur LinkedIn en novembre 2023 qui semble fortement avoir été généré par l’IA elle-même – bien loin des « médias, articles universitaires et blogs établis » que Perplexity prétend utiliser pour tambouriner. ses réponses.

Mais ce blog est l’un des moins grands soucis de Perplexity. Dans un autre cas inquiétant, Forbes  et Tian ont découvert que Perplexity, en réponse à une question demandant « des alternatives à la pénicilline pour traiter les infections bactériennes », a cité un blog probablement généré par l’IA d’une clinique médicale prétendant appartenir au réseau Penn Medicine. Ce billet de blog contenait des informations médicales contradictoires – c’est-à-dire peu fiables – sur la façon dont différents médicaments pourraient réagir entre eux, ce qui, selon Forbes , se reflétait dans les réponses de Perplexity.

Si vous vous méfiez des outils de détection d’IA , c’est tout à fait normal. Mais les sources récupérées par Perplexity et citées par Tian et Forbes comme de mauvaises informations issues de l’IA portent des signes révélateurs de la génération d’IA, et il convient de noter que Forbes a également corroboré les conclusions de GPTZero grâce à un deuxième outil de détection d’IA, DetectGPT.

Dmitry Shevelenko, directeur commercial de Perplexity, a déclaré à Forbes que la société de recherche en IA avait développé ses propres algorithmes internes pour détecter si le contenu était généré par l’IA, mais que ces systèmes n’étaient pas parfaits et devaient être continuellement affinés, en particulier à mesure que le contenu généré par l’IA devenait de plus en plus sophistiqué.

Bien sûr. Mais lorsque vous promettez ouvertement aux utilisateurs que votre produit ne contient que des informations de haute qualité provenant de sources faisant autorité pour fournir des réponses « accessibles, conversationnelles et vérifiables », il est vraiment très important que vos algorithmes soient réellement capables de trouver de bonnes informations à partir de mauvaises.

« La perplexité », lit-on dans la FAQ de l’entreprise, « est votre source d’information définitive ».

https://futurism.com/the-byte/perplexity-citing-ai-generated-spam