Des personnes chargées de l’entraînement de l’IA d’OpenAI ont été licenciées pour avoir utilisé l’IA pour entraîner l’IA.
infohightech ·

OpenAI emploie des milliers de contractuels qui contribuent à l’amélioration de ses modèles d’IA. Plusieurs d’entre eux ont été licenciés pour avoir utilisé l’IA afin d’entraîner l’IA.
OpenAI dispose d’une armée de sous-traitants qui analysent les requêtes et autres données des utilisateurs de ChatGPT afin d’améliorer les réponses du chatbot. L’objectif est d’apporter une dimension humaine aux modèles d’OpenAI. Or, ce n’est pas toujours le cas. 404 Media a découvert que plusieurs sous-traitants, engagés pour améliorer les modèles d’OpenAI, ont été licenciés pour avoir utilisé l’IA dans son propre entraînement. Ce n’est pas bon pour les modèles eux-mêmes, mais il y a aussi un paradoxe flagrant : des entreprises de formation en IA travaillant pour OpenAI licencient des personnes pour utilisation de l’IA, alors que la vocation même d’OpenAI est d’inciter les gens à utiliser l’IA au travail.
Certains modèles d’IA présentent déjà des signes d’ « effondrement du modèle », un phénomène où les performances des modèles entraînés sur du texte généré par l’IA se dégradent progressivement. Dans ce cas précis, certaines des personnes embauchées pour limiter ce phénomène utilisent elles-mêmes des réponses générées par l’IA pour entraîner les modèles d’OpenAI.
Un entrepreneur a déclaré qu’ils voyaient des gens utiliser l’IA « en permanence et que des gens se faisaient licencier pour ça constamment ; c’est quasiment la seule chose qui vous vaudra un renvoi immédiat ». Cette personne a ajouté : « Dans un groupe de milliers de personnes, il y en a des tonnes qui se sont fait prendre. »
La semaine dernière, 404 Media a révélé l’existence du projet Lily, dans le cadre duquel OpenAI emploie des centaines de sous-traitants chargés de lire les requêtes et les conversations de véritables utilisateurs de ChatGPT, lesquelles peuvent contenir des informations personnelles. Ces sous-traitants évaluent et analysent ensuite les réponses générées par ChatGPT, notamment en veillant à ce qu’elles ne soient pas trop obséquieuses ou qu’elles n’anthropomorphisent pas le logiciel. Ces informations proviennent de documents internes et d’entretiens avec une personne travaillant sur les requêtes.
404 Media a obtenu d’autres documents internes et s’est entretenu avec trois sous-traitants travaillant pour OpenAI sur différents projets. Selon l’un de ces documents, ces projets peuvent impliquer plus de dix mille sous-traitants.
L’un de ces documents stipule que les contractants ne doivent pas utiliser eux-mêmes l’IA dans le cadre de leur travail.
« N’utilisez pas d’outils de détection d’IA, ni l’IA elle-même », précise un document décrivant le travail des sous-traitants chargés de vérifier le travail d’autres sous-traitants, notamment de les repérer lorsqu’ils utilisent l’IA. « N’utilisez pas GPTZero ni aucun autre outil de détection d’IA. Ils ne sont pas fiables. Les relecteurs ne sont pas non plus autorisés à utiliser l’IA, y compris Grammarly et la traduction automatique, pour relire, rédiger des commentaires ou des retours. »
Le document poursuit : « Ne révélez pas aux évaluateurs les raisons de vos soupçons d’intelligence artificielle. Il leur sera plus facile de dissimuler leurs intentions s’ils savent ce que vous recherchez. Jugez la tendance générale, et non un seul indice. »
Les trois consultants ont indiqué que les évaluateurs ont reçu la consigne de ne pas utiliser l’IA dans leur travail. Deux d’entre eux ont précisé que des personnes avaient été licenciées ou écartées de l’entreprise pour avoir utilisé l’IA. 404 Media a garanti l’anonymat aux consultants, car ils n’étaient pas autorisés à s’adresser à la presse.
Les examinateurs chargés de vérifier le travail d’autres sous-traitants sont invités à être attentifs aux signes révélateurs de l’utilisation de l’IA. Il peut s’agir de répétitions, d’une ponctuation typique de l’IA (notamment un usage excessif du tiret cadratin) et d’une exécution très rapide des travaux.
Dans les canaux Slack dédiés, où les gens s’échangent des conseils, beaucoup publient un exemple en posant la question : « Est-ce de l’IA ? », a déclaré un consultant.
« La réponse est généralement oui », a déclaré la personne.
Un prestataire a déclaré avoir utilisé l’IA pour entraîner les modèles d’OpenAI et a partagé ce qu’il a présenté comme sa lettre de licenciement. Celle-ci indiquait que son employeur avait relevé des problèmes concernant l’« authenticité » de son travail.
« Je ne suis ni une mauvaise personne ni un mauvais travailleur. J’avais juste besoin d’un petit coup de pouce et je me suis tourné vers l’IA, ce qui a finalement causé ma perte », a déclaré le consultant à 404 Media. « Je ne ressentais aucune joie dans mon travail ni le sentiment de contribuer à la société. »
Deux des consultants interrogés par 404 Media travaillaient pour Mercor, une entreprise de formation en IA qui recrute des consultants chargés d’examiner les documents relatifs à ChatGPT. Un porte-parole de Mercor a déclaré à 404 Media : « Nos experts sont recrutés pour leur expertise et leur jugement, essentiels au développement continu de l’IA. Nos contrats interdisent formellement le recours à des logiciels de modélisation 3D (LLM) pour la réalisation des projets, et nous veillons à leur application. Nous investissons massivement dans nos outils et systèmes de détection des abus et nous assurons que nos experts respectent les règles des projets et les termes des contrats. Dès que nous constatons qu’un expert a utilisé l’IA pour accomplir une tâche, nous l’excluons immédiatement du projet. »
404 Media s’est entretenu avec un quatrième prestataire ayant travaillé sur l’entraînement de modèles pour diverses entreprises d’IA. Ce dernier a déclaré que ses collaborateurs choisissaient parfois délibérément les pires réponses afin de saboter activement l’entraînement des modèles.
« Au début, je culpabilisais de faire ce genre de travail », ont-ils déclaré. « Soit je ne tiens absolument pas compte des résultats et je choisis au hasard, soit je choisis délibérément le pire résultat. Je ne sais pas si cela change grand-chose, vu que des centaines d’autres personnes évaluent aussi les réponses, mais j’ai vraiment l’impression d’être payé pour rendre l’IA pire. »
OpenAI a refusé de commenter le licenciement de ses sous-traitants pour utilisation de l’IA.
https://www.404media.co/people-training-openais-ai-fired-for-using-ai-to-train-the-ai