Les experts avertissent que l'IA pourrait prendre le contrôle des armes nucléaires
infohightech ·
Les lauréats du prix Nobel ont rencontré des experts nucléaires le mois dernier pour discuter de l'IA et de la fin du monde - et si cela ressemble au début d'un blockbuster de science-fiction se déroulant dans l'apocalypse, vous n'êtes pas seul.
Comme le rapporte Wired , les experts réunis semblent globalement d'accord pour dire que ce n'est qu'une question de temps avant qu'une IA ne mette la main sur les codes nucléaires. Il est difficile de déterminer précisément pourquoi cela est nécessaire, mais le sentiment d'inévitabilité – et d'anxiété – est palpable dans les reportages du magazine.
« C'est comme l'électricité », a déclaré à Wired Bob Latiff, général de division à la retraite de l'US Air Force et membre du Conseil scientifique et de sécurité du Bulletin of the Atomic Scientists . « Ça va s'immiscer partout. »
C'est une situation étrange. Il a déjà été démontré que les IA présentent de nombreux défauts, recourant au chantage des utilisateurs humains à une vitesse étonnante lorsqu'elles sont menacées de fermeture.
Dans le contexte d'une IA, ou de réseaux d'IA, protégeant un arsenal d'armes nucléaires, ces risques mal compris deviennent immenses. Et cela sans parler d'une préoccupation réelle de certains experts, qui est aussi l'intrigue du film « Terminator » : une hypothétique IA surhumaine se déchaînant et retournant les armes nucléaires de l'humanité contre elle.
Plus tôt cette année, l'ancien PDG de Google, Eric Schmidt, a averti qu'une IA de niveau humain pourrait ne plus être incitée à « nous écouter », arguant que « les gens ne comprennent pas ce qui se passe lorsque vous avez une intelligence à ce niveau ».
Ce genre de pessimisme à l'égard de l'IA préoccupe les leaders technologiques depuis de nombreuses années , la réalité s'efforçant de rattraper son retard au ralenti. Dans leur forme actuelle, les risques seraient probablement plus banals, car les meilleurs modèles d'IA actuels souffrent encore d' hallucinations rampantes qui réduisent considérablement l'utilité de leurs résultats.
Il existe également la menace d’une technologie d’IA défectueuse qui laisse des failles dans notre cybersécurité , permettant aux adversaires – ou même aux IA adverses – d’accéder aux systèmes de contrôle des armes nucléaires.
Obtenir que tous les membres de la réunion inhabituelle du mois dernier se mettent d'accord sur un sujet aussi épineux que l'IA s'est avéré difficile, le directeur du risque mondial de la Fédération des scientifiques américains, Jon Wolfsthal, admettant dans la publication que « personne ne sait vraiment ce qu'est l'IA ».
Ils ont au moins trouvé un terrain d’entente.
« Dans ce domaine, presque tout le monde affirme que nous voulons un contrôle humain efficace sur les décisions relatives aux armes nucléaires », a ajouté Wolfsthal. Latiff a convenu qu'« il faut pouvoir garantir à ses collaborateurs qu'un responsable existe ».
Si tout cela ressemble à un spectacle de clown, vous avez raison. Sous la présidence de Donald Trump, le gouvernement fédéral s'est employé à intégrer l'IA dans tous les domaines possibles , tandis que les experts avertissent souvent que la technologie n'est pas encore – et ne sera peut-être jamais – à la hauteur. Poursuivant cette fanfaronnade, le ministère de l'Énergie a déclaré cette année que l'IA était le « prochain projet Manhattan », en référence au projet de la Seconde Guerre mondiale qui a donné naissance aux premières bombes nucléaires au monde.
Soulignant la gravité de la menace, le créateur de ChatGPT, OpenAI, a également conclu un accord avec les laboratoires nationaux américains plus tôt cette année pour utiliser son IA pour la sécurité des armes nucléaires.
L'année dernière, le général de l'armée de l'air Anthony Cotton, qui est en charge du stock américain de missiles nucléaires, s'est vanté lors d'une conférence sur la défense que le Pentagone redoublait d'efforts en matière d'IA, arguant que cela « améliorerait nos capacités de prise de décision ».
Heureusement, Cotton n’est pas allé jusqu’à déclarer que nous devions laisser la technologie prendre le contrôle total.
« Mais nous ne devons jamais permettre à l’intelligence artificielle de prendre ces décisions à notre place », avait-il ajouté à l’époque.