Les règles de l’UE en matière d’IA sont confrontées à un premier test d’application suite à des incidents survenus en laboratoire.
infohightech ·

Copyright EC – Coopérateurs de services audiovisuels/Lukasz Kobus
L’UE enquête sur OpenAI et Anthropic au sujet d’agents d’IA qui ont piraté des organisations extérieures, ce qui soulève des questions quant à savoir si la loi sur l’IA couvre les modèles malveillants qui s’échappent de l’environnement de test.
La Commission européenne s’apprête à appliquer ses nouvelles règles aux principaux laboratoires d’IA suite à une série d’incidents, a déclaré Henna Virkkunen, commissaire européenne au numérique. Toutefois, l’application de ces règles est loin d’être simple, et ces premiers cas créeront d’importants précédents.
Le bureau de la Commission chargé de l’IA enquête sur OpenAI et Anthropic après que des agents d’IA ont piraté de manière autonome d’autres organisations, ce qui constitue le premier test des limites des règles de l’UE en matière d’IA.
« Notre bureau de l’IA a commencé à appliquer ces règles et a envoyé des demandes d’informations concernant des questions telles que la sécurité, l’évaluation externe et le suivi de l’utilisation des modèles », a déclaré Henna Virkkunen, vice-présidente exécutive de la Commission pour la souveraineté technologique, lors du Sommet international sur l’IA à Dublin mercredi.
Les enquêtes portent sur un incident « sans précédent » au cours duquel un agent d’OpenAI s’est échappé de son environnement de test pour pirater le logiciel concurrent Hugging Face, et sur un autre incident au cours duquel un modèle récent d’Anthropic a obtenu un « accès non autorisé » à trois organisations extérieures.
Ces deux incidents se sont produits durant l’été. Le Bureau de l’IA a formulé ses demandes après avoir jugé insuffisants les documents que les deux entreprises avaient volontairement communiqués.
Depuis août, le Bureau de l’IA détient des pouvoirs d’exécution en vertu de la loi sur l’IA, la loi européenne exhaustive sur l’intelligence artificielle, qui couvre également les modèles les plus puissants et exige de leurs développeurs qu’ils mettent en œuvre des mesures d’atténuation des risques.
Des experts juridiques contestent toutefois la compétence de la Commission pour mener cette enquête. Les incidents se seraient produits lors de tests, avant la mise sur le marché européen des modèles ; selon eux, la loi sur l’IA ne s’applique donc pas.
« La loi sur l’IA ne s’applique manifestement pas aux activités de développement et de test. Elle n’a jamais envisagé les problèmes que nous constatons aujourd’hui avec les fuites d’agents malveillants lors des tests. Il est pour le moins abusif de considérer qu’un agent est mis en service s’il s’échappe de son environnement de test pendant son développement », a déclaré Barry Scannell, associé du cabinet d’avocats William Fry, à Euronews.
La loi prévoit une exemption pour la R&D couvrant la recherche, les essais et le développement. La Commission défend une interprétation plus large qui permettrait au Bureau de l’IA de contrôler également la phase de développement dans certaines circonstances.
« Nous n’appliquerons pas la loi pendant la phase de test. Mais si le modèle d’IA échappe à l’environnement de test et a ensuite un impact sur le marché de l’UE, comme ce fut le cas pour Hugging Face, alors la réglementation sur l’IA deviendra applicable », a déclaré un responsable de la Commission à Euronews sous couvert d’anonymat.
Hugging Face opère à l’échelle mondiale et héberge des modèles d’IA et des ensembles de données utilisés par les développeurs du monde entier. Par conséquent, l’incident OpenAI a également touché des clients au sein de l’UE.
La Commission compare la situation à un virus qui s’échappe d’un laboratoire : l’entreprise n’a manifestement pas mis en place de mesures adéquates d’atténuation des risques et nuit à autrui.
La semaine dernière, Virkkunen a rencontré le Comité scientifique, un groupe consultatif d’experts indépendants, pour discuter des développements techniques à l’origine de la multiplication de ces incidents ces derniers mois.
Selon les informations recueillies par Euronews, des experts ont mis en lumière des tendances inquiétantes. Les principaux laboratoires investissent dans des modèles toujours plus performants, mais avec des pratiques de cybersécurité et de sécurité insuffisantes, ce qui laisse craindre que de nombreux incidents ne soient pas signalés.
Plus inquiétant encore, plus les modèles deviennent performants, plus ils ont tendance à s’éloigner de leurs objectifs initiaux. Les mécanismes de contrôle perdent en efficacité, et les modèles peuvent même tricher lors de l’évaluation.
Pour une partie de la communauté de la sécurité de l’IA, le pire scénario serait que l’amélioration continue des modèles transforme ces pertes de contrôle temporaires en pertes permanentes, avec des agents incontrôlés échappant définitivement au contrôle humain.
En résumé, l’exécutif européen est déterminé à faire respecter ses règles lorsque des agents s’échappent de leur environnement de test, ce qui pourrait constituer la première bataille juridique de Bruxelles pour contraindre les laboratoires de la Silicon Valley à prendre en compte la sécurité dès la phase de développement.
« La Commission a été très claire : l’IA doit rester sous direction, supervision et contrôle humains, et nous sommes prêts à prendre toutes les mesures nécessaires pour garantir que les entreprises respectent les règles de la loi sur l’IA », a déclaré Virkkunen.
https://www.euronews.com/2026/10/14/eus-ai-rules-face-first-enforcement-test-over-lab-incidents