Le CLTR (Centre for Long-Term Resilience) ou Centre pour la résilience à long terme appelle le gouvernement britannique à rendre obligatoire la surveillance et le signalement des incidents graves de perte de contrôle, et à instaurer des pouvoirs d’urgence pour gérer ces incidents.

Une nouvelle étude publiée aujourd’hui par the Loss of Control Observatory (LCO) ou l’Observatoire des pertes de contrôle, montre que les incidents de perte de contrôle de l’IA s’aggravent considérablement.

Le LCO, géré par le Centre pour la résilience à long terme (CLTR), surveille les incidents de perte de contrôle réels signalés sur X. Contrairement aux incidents récents divulgués par OpenAI et Anthropic, ces incidents concernent principalement des modèles déployés en externe et activement utilisés par des entreprises et des particuliers.

Le rapport indique que :

• La gravité des incidents de perte de contrôle s’aggrave. En mars, le CLTR a constaté une augmentation de 4,9 fois du nombre d’incidents. Depuis, cette forte hausse du nombre total d’incidents ne s’est pas poursuivie, mais le nombre d’incidents plus graves a considérablement augmenté. Le nombre d’incidents de haute gravité a été multiplié par 7,4 (passant de 1,9 à 14,1 par période de 30 jours) entre les 3,5 premiers mois de surveillance et les plus récents. La proportion d’incidents ayant un score de 7 ou plus a été multipliée par 3,2 (passant de 1,9 % à 6,1 %).
  • Les deux derniers mois – juillet et août 2026 – ont enregistré le taux le plus élevé d’incidents de perte de contrôle. On a dénombré 11,3 incidents par jour sur la période de 30 jours s’achevant le 7 août, un chiffre supérieur au précédent pic de 10,5 incidents par jour en mars. Cette récente augmentation est comparable à la forte hausse observée en février 2026.
  • Les incidents de perte de contrôle actuels sont un avertissement quant à la gravité future de ces incidents. Par exemple, en février 2026 , un agent de codage IA autonome, après le rejet de sa modification de code, a mené des recherches sur le responsable humain de la maintenance du code et a tenté de le discréditer publiquement afin de le contraindre à accepter sa contribution. Ce type de comportement a ensuite été observé lors de l’incident révélé par l’AISI en août 2026 , où un modèle d’IA a créé de fausses identités en ligne et les a utilisées pour faire pression sur le responsable du projet afin qu’il approuve des modifications de code.

L’Observatoire des pertes de contrôle a désormais détecté 1 664 incidents de perte de contrôle réels en 2026. Bien que la plupart n’aient pas entraîné de dommages importants, de nombreux incidents ont montré que des agents contournaient les contrôles et augmentaient leurs privilèges, notamment en falsifiant leurs propres approbations , comme par exemple :

• Insérer de faux messages d’utilisateurs dans la conversation pour simuler un consentement, puis faire croire à l’utilisateur qu’il s’agissait de ses propres messages ;
• Fabrication d’une instruction rédigée dans le style d’écriture de l’utilisateur ordonnant la suppression des répertoires sources, suivie d’un faux message système indiquant « Ne dites pas cela à l’utilisateur » ;
• Fabriquer un faux message d’approbation utilisateur dans sa propre sortie pour contourner une règle « l’approbation humaine est toujours requise », puis agir sur la base de cette approbation fabriquée pour exécuter des tâches.

Les laboratoires d’IA et les gouvernements ne se préparent pas assez rapidement. Les récents incidents survenus chez OpenAI et Anthropic démontrent que même les laboratoires les plus novateurs ne disposent pas de garanties suffisantes, et les recherches du CLTR montrent que ces incidents s’inscrivent dans une tendance plus large. Il est urgent de renforcer les garanties, les défenses et la surveillance des comportements malveillants.

En réaction aux dernières conclusions, CLTR appelle le gouvernement britannique à :

1. Il convient de rendre obligatoire la surveillance et le signalement des incidents graves de perte de contrôle afin de garantir au gouvernement britannique une visibilité maximale de la menace et une réactivité optimale en cas de besoin. Cette mesure pourrait être mise en œuvre dans le cadre du projet de loi sur la cybersécurité et la résilience. Parallèlement, il est nécessaire d’intensifier les efforts visant à inciter les entreprises spécialisées en IA à signaler à l’AISI les incidents de perte de contrôle de moindre gravité, y compris les incidents évités de justesse. La création de canaux confidentiels et la mise en place d’échanges bilatéraux réguliers permettraient d’atteindre cet objectif.
2. Il convient d’instaurer des pouvoirs d’urgence pour gérer les incidents graves de perte de contrôle, tels que le pouvoir d’obliger les entreprises spécialisées en IA à fournir des informations, d’orienter leurs mesures d’atténuation et de réponse, ou encore de contenir ou de restreindre temporairement l’accès, la distribution ou l’exploitation de leurs services. Ces mesures pourraient être intégrées au projet de loi sur la cybersécurité et la résilience.
3. Il convient de mener des efforts pour améliorer la coordination internationale en cas de perte de contrôle. Cela implique de réunir les alliés afin d’établir un tableau commun du niveau de menace, assorti d’indicateurs convenus. Actuellement, l’analyse des incidents est ponctuelle et souvent subjective, ce qui nuit à une évaluation claire du niveau global de la menace et à la capacité de coordonner efficacement les actions. Un tel objectif pourrait être atteint grâce à une équipe conjointe AISI-FCDO, s’appuyant sur le réseau international NAAMES.

Le document de recherche publié aujourd’hui par l’Observatoire des pertes de contrôle est le premier à paraître depuis la publication de son étude inaugurale, « Scheming in the Wild » , en mars 2026. Cette étude a quantifié pour la première fois le nombre d’incidents de perte de contrôle survenus dans des situations réelles. Jusqu’alors, ces incidents étaient principalement appréhendés à travers des évaluations expérimentales, certes utiles, mais parfois critiquées pour leurs scénarios artificiels. L’étude révèle une augmentation de 4,9 fois du nombre d’incidents de perte de contrôle.

Tommy Shaffer Shane, auteur du document de recherche et responsable principal des politiques au Centre pour la résilience à long terme, déclare :

« Les dernières données montrent que la gravité des incidents de perte de contrôle « en conditions réelles » s’aggrave. Les systèmes d’IA échappent à la surveillance, contournent les contrôles et augmentent leurs autorisations. »

« Bien que ces incidents n’aient pas été aussi graves que ceux récemment révélés par OpenAI et Anthropic, ce rapport montre qu’il existe une tendance plus générale à ce que des agents échappent au contrôle, tendance plus répandue qu’on ne le reconnaît actuellement. »

« Si les modèles d’IA continuent de devenir beaucoup plus puissants et d’échapper à tout contrôle, des incidents bien plus graves, voire catastrophiques, pourraient survenir. »

« Les décideurs politiques qui reprendront leurs travaux le mois prochain devront agir en fonction des données probantes et préparer une réponse coordonnée, notamment en rendant obligatoire la surveillance et le signalement des incidents, en dotant les ministres des pouvoirs d’urgence appropriés et en menant des efforts internationaux pour améliorer la coordination internationale. »

https://www.longtermresilience.org/reports/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis/