Le Pentagone affirme que l'IA accélère sa « chaîne de destruction »

Aujourd'hui, leurs outils ne sont plus utilisés comme des armes, mais l'IA donne au ministère de la Défense un « avantage significatif » dans l'identification, le suivi et l'évaluation des menaces, a déclaré la directrice numérique et de l'IA du Pentagone, le Dr Radha Plumb, lors d'un entretien téléphonique.

« Nous augmentons évidemment les moyens par lesquels nous pouvons accélérer l’exécution de la chaîne d’élimination afin que nos commandants puissent réagir au bon moment pour protéger nos forces », précise Radha Plumb.

La « chaîne de destruction » fait référence au processus militaire d’identification, de suivi et d’élimination des menaces, qui implique un système complexe de capteurs, de plateformes et d’armes. Selon Radha Plumb, l’IA générative s’avère utile lors des phases de planification et d’élaboration de stratégies de la chaîne de destruction.

La relation entre le Pentagone et les développeurs d'IA est relativement nouvelle. OpenAI, Anthropic et Meta ont fait marche arrière sur leurs politiques d'utilisation en 2024 pour permettre aux agences de renseignement et de défense américaines d'utiliser leurs systèmes d'IA. Cependant, ils ne permettent toujours pas à leur IA de nuire aux humains.

« Nous avons été très clairs sur la manière dont nous utiliserons ou non leurs technologies », a déclaré Radha Plumb, lorsqu'on lui demande comment le Pentagone travaille avec les fournisseurs de modèles d'IA.

Néanmoins, cela a donné le coup d’envoi d’une série de rencontres rapides entre les entreprises d’IA et les sous-traitants de la défense.

Meta s'est associé à Lockheed Martin et Booz Allen , entre autres, pour proposer ses modèles d'IA Llama aux agences de défense en novembre. Le même mois, Anthropic s'est associé à Palantir . En décembre, OpenAI a conclu un accord similaire avec Anduril. Plus discrètement, Cohere a également déployé ses modèles avec Palantir.

Alors que l’IA générative prouve son utilité au Pentagone, elle pourrait pousser la Silicon Valley à assouplir ses politiques d’utilisation de l’IA et à autoriser davantage d’applications militaires.

« L’IA générative peut être très utile pour jouer à différents scénarios », lance Radha Plumb. « Elle permet de tirer parti de toute la gamme d’outils dont disposent nos commandants, mais aussi de réfléchir de manière créative à différentes options de réponse et à des compromis potentiels dans un environnement où il existe une menace potentielle, ou une série de menaces, qui doivent être poursuivies. »

On ne sait pas exactement quelle technologie le Pentagone utilise pour ce travail ; l’utilisation de l’IA générative dans la chaîne de destruction (même au début de la phase de planification) semble enfreindre les politiques d’utilisation de plusieurs grands développeurs de modèles. La politique d’Anthropic , par exemple, interdit l’utilisation de ses modèles pour produire ou modifier « des systèmes conçus pour causer des dommages ou la perte de vies humaines ».

En réponse, Anthropic renvoie vers la récente interview de son PDG Dario Amodei avec le Financial Times , où il a défendu son travail militaire :

L’idée selon laquelle nous ne devrions jamais utiliser l’IA dans les domaines de la défense et du renseignement n’a aucun sens à mes yeux. L’idée selon laquelle nous devrions nous lancer à corps perdu dans l’utilisation de l’IA pour fabriquer tout ce que nous voulons – y compris des armes de fin du monde – est tout aussi absurde. Nous essayons de trouver un terrain d’entente, de faire les choses de manière responsable.

La vie, la mort et les armes de l'IA

Ces derniers mois, un débat sur les technologies de défense a éclaté autour de la question de savoir si les armes IA devraient vraiment être autorisées à prendre des décisions de vie ou de mort. Certains affirment que l’armée américaine dispose déjà d’armes qui le font.

Le PDG d'Anduril, Palmer Luckey, a récemment noté sur X que l'armée américaine avait une longue histoire d'achat et d'utilisation de systèmes d'armes autonomes tels qu'une tourelle CIWS .

« Le ministère de la Défense achète et utilise des systèmes d’armes autonomes depuis des décennies. Leur utilisation (et leur exportation !) est bien comprise, strictement définie et explicitement réglementée par des règles qui ne sont pas du tout volontaires », narre Palmer Luckey.

Mais lorsqu’on demande si le Pentagone achetait et exploitait des armes entièrement autonomes – c’est-à-dire sans intervention humaine – Palmer Plumb a rejeté l’idée par principe.

« Non, c’est la réponse la plus simple », a déclaré Palmer Plumb. « Pour des raisons de fiabilité et d’éthique, nous aurons toujours des humains impliqués dans la décision d’employer la force, y compris pour nos systèmes d’armes. »

Le mot « autonomie » est quelque peu ambigu et a suscité des débats dans toute l’industrie technologique sur le moment où les systèmes automatisés – tels que les agents de codage IA, les voitures autonomes ou les armes à tir automatique – deviennent véritablement indépendants.

Palmer Plumb a déclaré que l'idée selon laquelle les systèmes automatisés prennent indépendamment des décisions de vie ou de mort était « trop binaire » et que la réalité était moins « science-fictionnelle ». Elle a plutôt suggéré que l'utilisation des systèmes d'IA par le Pentagone est en réalité une collaboration entre humains et machines, où les hauts dirigeants prennent des décisions actives tout au long du processus.

« Les gens ont tendance à penser que des robots existent quelque part, et que le gonculator [une machine autonome fictive] crache une feuille de papier et que les humains n’ont qu’à cocher une case », assure Palmer Plumb. « Ce n’est pas ainsi que fonctionne le travail en équipe entre l’homme et la machine, et ce n’est pas une façon efficace d’utiliser ces types de systèmes d’IA. »

La sécurité de l'IA au Pentagone

Les partenariats militaires ne sont pas toujours bien accueillis par les employés de la Silicon Valley. L’année dernière, des dizaines d’employés d’Amazon et de Google ont été licenciés et arrêtés après avoir protesté contre les contrats militaires de leurs entreprises avec Israël , des accords de cloud computing qui relevaient du nom de code « Projet Nimbus ».

En comparaison, la communauté de l'IA a réagi de manière assez modérée. Certains chercheurs en IA, comme Evan Hubinger d'Anthropic, affirment que l'utilisation de l'IA dans les armées est inévitable et qu'il est essentiel de travailler directement avec les militaires pour s'assurer qu'ils font les choses correctement.

« Si vous prenez au sérieux les risques catastrophiques liés à l’IA, le gouvernement américain est un acteur extrêmement important avec lequel il faut collaborer, et essayer de l’empêcher d’utiliser l’IA n’est pas une stratégie viable », précise Evan Hubinger dans un message publié en novembre sur le forum en ligne LessWrong . « Il ne suffit pas de se concentrer uniquement sur les risques catastrophiques, il faut également empêcher le gouvernement de faire un usage abusif de vos modèles. »

https://techcrunch.com/2025/01/19/the-pentagon-says-ai-is-speeding-up-its-kill-chain/