Les modèles d’IA offrent des opportunités, mais aussi des risques. Grâce à une nouvelle institution, le gouvernement entend renforcer ses capacités d’analyse et établir un point de contact central pour les entreprises technologiques.
Le gouvernement allemand entend mieux évaluer les opportunités et les risques liés aux nouveaux modèles d’IA grâce à un nouvel organisme. Le Conseil national de sécurité a décidé de créer un Institut de sécurité de l’IA, a annoncé le gouvernement.
Le nouvel Institut d’ intelligence artificielle , dont le nom reste à définir, sera initialement conçu comme une institution virtuelle, s’appuyant sur les structures et l’expertise de l’ Agence fédérale des réseaux et de l’Office fédéral de la sécurité de l’information (BSI). Un local physique sera ensuite mis en place, mais le calendrier précis de cette phase demeure incertain. Un porte-parole du BSI a déclaré que, compte tenu du rythme rapide des évolutions technologiques en IA, les ministères concernés – le ministère fédéral de l’Intérieur et le ministère fédéral du Numérique – estiment crucial d’avancer rapidement dans ce domaine.
Deux aspects de la sécurité sont au centre des préoccupations.
L’institut se concentrera sur la sécurité de l’IA, c’est-à-dire la protection contre les attaques et la cybersécurité, mais aussi sur la sûreté de l’IA – c’est-à-dire les produits d’IA sûrs qui ne déclenchent pas d’actions dangereuses et qui, par exemple, ne suggèrent pas un film d’horreur lorsque l’utilisateur demande un film pour enfants.
L’institut vise à centraliser les ressources consacrées à l’analyse des capacités des modèles d’IA modernes, y compris les risques associés. Il entend également renforcer sa collaboration avec des institutions étrangères comparables et œuvrer à l’établissement de normes uniformes pour l’utilisation de l’IA avec ses partenaires internationaux.
De nombreux pays disposent déjà de tels instituts ; en Allemagne, l’Office fédéral de la sécurité des technologies de l’information (BSI) a déjà mené des actions dans ce domaine. Par exemple, une réunion internationale sur la normalisation des normes d’IA s’est tenue en décembre à Séoul, capitale de la Corée du Sud, où le BSI était représenté.
Le ministre du Numérique, Wildberger : « Des experts de renommée mondiale »
Le ministre fédéral du Numérique, Karsten Wildberger, a annoncé en marge d’une réunion de l’UE à Luxembourg que l’institut d’IA devrait être doté d’une expertise de pointe, composée d’experts de renommée mondiale. Ces derniers auront pour mission de tester et d’évaluer rapidement de nouveaux modèles, tels que Claude Mythos, et de conseiller le gouvernement fédéral et son administration. L’Institut britannique de sécurité de l’IA sert de modèle.
Le logiciel Mythos, développé par la société américaine Anthropic , a récemment fait grand bruit en révélant des failles de sécurité dans divers programmes, dont certaines étaient restées inconnues pendant des décennies. Le gouvernement allemand s’est initialement vu refuser l’accès à ce nouvel outil. L’Office fédéral de la sécurité des technologies de l’information (BSI) a indiqué, suite à une demande d’informations, être en contact avec Anthropic.
