Scale AI divulgue des fichiers confidentiels de Meta, Google et xAI grâce à des pratiques documentaires « incroyablement bancales »
Des fichiers de projet divulgués par Meta, Google et xAI révèlent des failles de sécurité majeures chez Scale AI quelques semaines seulement après l’investissement de 14 milliards de dollars de Meta.
Scale AI a laissé les e-mails privés et les supports de formation confidentiels en IA de Meta, Google et xAI librement accessibles via des documents Google non sécurisés. Certains fichiers étaient même modifiables, révélant une faille alarmante dans la protection des données.
Business Insider a révélé la mauvaise gestion de Scale AI après avoir examiné des dizaines de fichiers Google Docs publics liés à des projets d’IA de grande envergure. Les sous-traitants ont qualifié le système d’« incroyablement bancal », soulignant que la course à la vitesse a pu se faire au détriment de la sécurité.
Les travaux de Google, Meta et xAI rendus publics
Selon Business Insider , Scale AI a utilisé des documents Google Docs publics pour gérer des projets pour des clients majeurs, dont Google, Meta et xAI. Les fichiers, dont certains étaient marqués « confidentiels » et modifiables, étaient accessibles à toute personne disposant du lien. Business Insider a examiné des milliers de pages réparties sur 85 documents contenant des instructions internes, des données de formation et des supports de projet.
Pour Google, au moins sept manuels d’instructions confidentiels ont été divulgués. Ceux-ci détaillaient des problèmes spécifiques liés à Bard, comme la difficulté à répondre à des questions complexes, et indiquaient aux sous-traitants comment les résoudre. L’anonymisation était inégale, certains fichiers affichant encore la marque Google.
Les fichiers de Meta comprenaient des clips audio étiquetés pour la formation vocale des chatbots et des documents décrivant les normes d’expressivité.
Les informations divulguées par xAI décrivent au moins 10 projets d’IA générative, dont un nommé « Projet Xylophone », qui comportait 700 invites conçues pour améliorer la qualité des conversations sur un large éventail de sujets.
Google et xAI ont refusé de commenter, tandis que Meta n’a pas répondu aux demandes de BI.
Courriels personnels visibles par le public
Outre les données liées aux entreprises d’IA, Scale AI a exposé des informations sensibles sur des milliers de ses propres sous-traitants dans des documents Google publics. Des feuilles de calcul listaient les adresses Gmail personnelles ainsi que des indicateurs de performance tels que « haute qualité », « faible qualité » et « tricherie ». Des fichiers intitulés « Bons et méchants » et « déplacer tous les tricheurs » signalaient des employés pour faute présumée, tandis que d’autres documentaient des litiges salariaux et les noms de sous-traitants « bannis par erreur ».
Les entrepreneurs ont noté que ces documents étaient facilement accessibles et, dans certains cas, modifiables par toute personne disposant du lien.
La réponse de Scale AI
Selon l’article de BI, un porte-parole de Scale AI a déclaré : « Nous menons une enquête approfondie et avons désactivé la possibilité pour tous les utilisateurs de partager publiquement des documents provenant des systèmes gérés par Scale. Nous maintenons notre engagement à mettre en place des mesures de protection techniques et réglementaires rigoureuses pour protéger les informations confidentielles et nous nous efforçons constamment de renforcer nos pratiques. »
Scale AI est-il un battage médiatique ?
Il y a quelques semaines à peine, Meta a fait son pari le plus audacieux en matière d’IA en investissant la somme colossale de 14,3 milliards de dollars dans Scale AI. Mark Zuckerberg a choisi Alexandr Wang, son PDG, pour l’aider à mener à bien ses ambitions de superintelligence. Mais au vu des fuites d’informations et du chaos interne, cet investissement massif était-il une erreur monumentale ?
Reuters rapporte que Google et Microsoft se retirent de Scale AI , bien qu’aucun des deux n’ait confirmé cette décision. OpenAI a progressivement mis fin à son implication dans Scale AI depuis des mois.
Scale insiste sur le fait que rien n’a changé de son côté ; cependant, avec le retrait de clients de renom et les dommages à la réputation qui s’installent, le secteur pourrait ne pas être aussi confiant.
https://www.techrepublic.com/article/news-scale-ai-security-lapse-google-docs-meta-xai/