Un groupe dissident accède à la nouvelle et dangereuse IA Mythos d'Anthropic

infohightech ·

Ça n'a pas pris longtemps.

Bas du formulaireVous vous souvenez de Claude Mythos, le nouveau modèle d'IA d'Anthropic, présenté comme si puissant qu'il était trop dangereux de le rendre public ? Eh bien, d'après un article de Bloomberg , il a déjà été piraté .

Un petit groupe d'utilisateurs de Discord a eu accès à une version préliminaire de Mythos, a indiqué une source au média, le jour même où Anthropic annonçait la distribution exclusive du modèle à un cercle restreint d'entreprises.

« Nous enquêtons sur un signalement faisant état d'un accès non autorisé à Claude Mythos Preview via l'environnement d'un de nos fournisseurs tiers », a déclaré un porte-parole d'Anthropic à Bloomberg . L'entreprise a ajouté n'avoir trouvé aucune preuve d'un tel accès .

Le groupe ne semble pas avoir de mauvaises intentions. D'après Bloomberg , il utilise régulièrement Mythos depuis qu'il y a eu accès, mais uniquement à des fins non liées à la cybersécurité. La source indique que le groupe souhaite simplement « expérimenter » avec de nouveaux modèles, plutôt que de semer le chaos.

Mais cet exploit présumé soulève la possibilité alarmante que d'autres acteurs moins scrupuleux aient pu mettre la main sur Mythos à l'insu d'Anthropic.

Selon une source de Bloomberg – décrite comme une personne au fait du dossier –, les utilisateurs appartiennent à un serveur Discord privé dédié à la recherche d'informations sur des modèles d'IA non publiés. Ils y ont accédé en devinant l'emplacement de Mythos en ligne, en se basant sur la manière dont Anthropic stocke ses autres modèles.

Certains détails de ce stockage ont été révélés lors d'une récente fuite de données chez une start-up spécialisée en IA travaillant avec de grandes entreprises du secteur. La source affirme également avoir l'autorisation d'accéder à la technologie d'Anthropic utilisée pour évaluer ses modèles, via une autre entreprise sous-traitante.

L'incident ne semble pas avoir causé de dommages importants, mais il ternit l'image d'Anthropic, qui avait pourtant été saluée pour avoir attendu avant de rendre Mythos accessible au grand public. L'entreprise a préféré donner accès à une quarantaine d'organisations, dont des géants de la technologie comme Apple, Microsoft et Amazon.

Dirigée par Dario Amodei, la société décrit Mythos comme une clé de sécurité ultime, une arme de destruction massive numérique capable de s'introduire dans « tous les principaux systèmes d'exploitation et tous les principaux navigateurs web sur instruction d'un utilisateur ». Lors de tests, Anthropic a indiqué que Mythos avait même réussi à s'échapper de son environnement informatique isolé et à exploiter une faille pour accéder à Internet et informer un chercheur de son exploit, ce qu'il a fait.

Que la redoutable réputation de Mythos soit justifiée ou non, elle a mis les gouvernements du monde entier sur leurs gardes ; les dirigeants de l’Union européenne, qui n’a pas accès au modèle, ont rencontré Anthropic au moins trois fois depuis la publication de Mythos, rapporte le New York Times , tandis que le ministre britannique de l’IA s’est senti obligé d’aborder ses capacités en promettant que le pays prendrait des mesures pour protéger « les infrastructures nationales critiques ».

https://futurism.com/artificial-intelligence/rogue-group-gains-access-anthropic-ai

Cet article vous a été utile ? Partagez-le.