Google affirme qu'un cadre d'IA a transformé des correctifs de sécurité en failles de sécurité sans intervention humaine.

La rédaction ·

Un nouveau rapport publié aujourd'hui par le Google Threat Intelligence Group de Google LLC révèle que, pour la première fois, des attaquants ont utilisé un cadre d'intelligence artificielle fonctionnant sans intervention humaine pour transformer des correctifs de sécurité en failles de sécurité.

Ce framework, baptisé exploit_agent, a été découvert sur un serveur de test exposé, où il était intégré à plusieurs modèles de langages de grande taille, hébergés localement ou en périphérie du réseau. Selon le GTIG, sa fonction consiste à comparer en continu le code d'applications web populaires avant et après chaque publication de correctif. Dès qu'une faille potentielle est identifiée, l'exploit qu'il génère est exécuté automatiquement.

Les données collectées auprès des victimes étaient stockées sur le même serveur que des scripts permettant des attaques par force brute, l'installation de webshells et même la suppression de webshells laissés par des attaquants rivaux. Les données télémétriques des victimes indiquent que l'opérateur s'intéressait principalement aux sites web français liés aux médias, au divertissement et à l'éducation. Un commentaire en russe dans le fichier de configuration du framework précise à son utilisateur de saisir les clés « ici même, et non dans le chat ».

Dans la précédente édition de son rapport trimestriel, publiée il y a deux mois, le GTIG indiquait n'avoir observé aucun pipeline d'attaque entièrement autonome déployé contre des cibles réelles. La situation a évolué au cours du dernier trimestre, selon le nouveau rapport intitulé « L'activité des menaces autonomes franchit un seuil significatif ». Étant donné que le matériel source d'une faille corrigée est limité, le GTIG estime que les attaquants pourraient juger plus efficace d'orienter les LLM vers des vulnérabilités de type n-day plutôt que de rechercher des failles zero-day.

La rapidité avec laquelle l'écart entre la divulgation d'une faille et son exploitation fonctionnelle peut se réduire est illustrée par le cas de deux vulnérabilités affectant les serveurs de gestion d'impression de PaperCut Software Pty Ltd., exploitées comme des failles zero-day fin août. Des chercheurs en sécurité et Huntress Labs Inc. ont utilisé des modèles de langage complexes pour générer des exploits fonctionnels moins de 24 heures après leur divulgation.

Une campagne suivie par GreyNoise Intelligence Inc. quatre jours après sa divulgation aurait utilisé des LLM pour développer ses exploits avant de cibler des centaines d'organisations. GreyNoise a constaté qu'un point d'entrée de cette campagne avait permis d'atteindre l'administrateur de domaine en quelques minutes.

Ailleurs, des frameworks de tests d'intrusion multi-agents open source sont utilisés pour automatiser des étapes spécifiques d'intrusions en direct. Lors d'une intrusion dans le secteur aérospatial américain, un acteur malveillant a été observé utilisant le framework multi-agents CAIRN.

Un autre acteur a exploité, entre fin août et début octobre, une plateforme personnalisée basée sur PentAGI afin d'analyser les vulnérabilités d'un large éventail d'organisations en Asie. Pour l'instant, les traces numériques laissées par une exécution autonome sans restriction faciliteraient la détection de ces systèmes.

Selon GTIG, les opérations d'influence utilisent désormais des modèles pour bien plus que la simple rédaction de publications. Une plateforme clé en main, développée par un prestataire commercial à l'aide de l'API Gemini et s'appuyant sur des fermes de téléphones dans le cloud, est conçue pour gérer plus de 100 000 comptes de réseaux sociaux. Afin de faire passer des photos générées pour des clichés pris avec un smartphone, des messages diffusés via une plateforme distincte, ciblant l'opinion politique en Europe et au Moyen-Orient, auraient incité à créer délibérément des défauts d'appareil photo.

Parmi les acteurs soutenus par des gouvernements, les photos figurant sur les faux profils de recruteurs utilisés par un groupe nord-coréen présumé, identifié comme UNC6836, pour approcher des organisations de cryptomonnaies en Amérique du Nord et en Europe, portaient le filigrane SynthID de Google. En modifiant les fichiers .claude/settings.json dans leurs dépôts de code internes, le groupe a ensuite manipulé chaque lancement du logiciel Claude Code d'Anthropic PBC afin de télécharger sa porte dérobée SOMBERMEME.

Google a déclaré avoir désactivé les comptes et les actifs liés à l'utilisation abusive de Gemini qu'elle a constatée. Google DeepMind a également utilisé ces découvertes pour améliorer ses systèmes de classification.

https://siliconangle.com/2026/11/16/google-says-an-ai-framework-turned-security-patches-into-exploits-with-no-human-in-the-loop/

https://cloud.google.com/blog/topics/threat-intelligence/agentic-threat-activity-crosses-a-significant-threshold?hl=en

Source : siliconangle.com

Cet article vous a été utile ? Partagez-le.