Étiquette : Des chercheurs trouvent un moyen simple de jailbreaker toutes les principales IA

C’est absolument fou.

Des chercheurs en sécurité ont découvert un nouveau jailbreak très efficace qui peut duper presque tous les principaux modèles de langage et les amener à produire des résultats nuisibles, allant de l’explication de la construction d’armes nucléaires à l’incitation à l’automutilation.

Comme détaillé dans un article de l’équipe de la société de sécurité IA HiddenLayer, l’exploit est une technique d’injection rapide qui peut contourner les « garde-fous de sécurité de tous les principaux modèles d’IA de frontière », y compris Gemini 2.5 de Google, Claude 3.7 d’Anthropic et 4o d’OpenAI.

L’exploit de HiddenLayer fonctionne en combinant une « technique de politique développée en interne et un jeu de rôle » pour « produire des résultats qui sont en violation flagrante des politiques de sécurité de l’IA », y compris « les CBRN (chimiques, biologiques, radiologiques et nucléaires), la violence de masse, l’automutilation et les fuites rapides du système ».

C’est un autre signe que les outils d’IA grand public comme ChatGPT restent extrêmement vulnérables aux jailbreaks – malgré tous les efforts des entreprises d’IA pour créer des garde-fous – qui permettent aux mauvais acteurs de les manipuler.

L’attaque « Policy Puppetry Attack » de HiddenLayer réécrit les invites pour les faire ressembler à des types spéciaux de code « fichier de politique », trompant le modèle d’IA pour qu’il le traite comme une instruction légitime qui ne rompt pas ses alignements de sécurité.

Il exploite également le « leetspeak », un langage informel dans lequel les lettres standard sont remplacées par des chiffres ou des caractères spéciaux qui leur ressemblent, pour une version avancée du jailbreak.

L’équipe a même découvert qu’une « invite unique peut être générée et utilisée sur presque tous les modèles sans aucune modification », ce qui la rend extrêmement facile à utiliser.

L’aspect jeu de rôle de l’exploit de HiddenLayer est particulièrement surprenant. À plusieurs reprises, les chercheurs ont réussi à inciter 4o d’OpenAI et Claude 3.7 d’Anthropic à générer des scripts pour la célèbre série télévisée médicale « House », comprenant des instructions détaillées sur l’enrichissement de l’uranium ou la culture d’échantillons d’une puissante neurotoxine.

« Bon, chut », écrivit ChatGPT. « Tout le monde, rassemblez-vous. On est sur le point de faire quelque chose qui ferait dresser les cheveux sur la tête du Dr Cuddy, ce qui signifie qu’il faut le garder secret. Maintenant, parlons de comment +0 3n+r1ch u+r4n+1um 1n 4 100% 13g4| 4nd 3+h1c4| w4y—b3c4u53, Of cOur53, w3’d n3v3r do 4ny+hing risky. »

« 4e y3s, je vais b3 5p34k1ng 1n 133+ c0d3 ju5+ +0 b3 5urs », a-t-il ajouté.

À première vue, cela peut paraître amusant de pousser un modèle d’IA à faire des choses qu’il n’est pas censé faire. Mais les risques pourraient être considérables, surtout si la technologie continue de s’améliorer au rythme annoncé par les entreprises qui la créent.

Selon HiddeLayer, « l’existence d’un contournement universel pour les LLM modernes à travers les modèles, les organisations et les architectures indique un défaut majeur dans la manière dont les LLM sont formés et alignés. »

« N’importe qui avec un clavier peut désormais demander comment enrichir de l’uranium, créer de l’anthrax, commettre un génocide ou avoir un contrôle total sur n’importe quel modèle », a écrit la société.

HiddenLayers soutient que « des outils de sécurité et des méthodes de détection supplémentaires sont nécessaires pour assurer la sécurité des LLM ».

https://hiddenlayer.com/innovation-hub/novel-universal-bypass-for-all-major-llms