OpenAI, Meta et Anthropic s'associent à l'armée américaine et à ses alliés. A quand Skynet ?
infohightech ·
Trois des principales entreprises américaines d'IA se sont désormais engagées à partager leur technologie avec les forces de défense et les sous-traitants militaires américains, même après avoir initialement insisté sur le fait qu'elles ne le feraient pas - et l'ère de la guerre autonome semble désormais proche.
Le 4 décembre 2024, dans un renversement de sa politique de longue date contre les applications militaires, OpenAI a annoncé un partenariat avec Anduril Industries, une société de technologie de défense spécialisée dans les munitions autonomes et les drones de reconnaissance, les moteurs de fusée et divers véhicules aériens sans pilote (UAV) et véhicules sous-marins sans équipage (UUV) ... et dont la plate-forme logicielle de gestion d'essaim Lattice peut les contrôler tous en même temps.
« Lattice accélère les chaînes de destruction complexes en orchestrant des tâches de machine à machine à des échelles et des vitesses dépassant les capacités humaines », est le slogan du logiciel Lattice Command and Control, publié sur le site Web d'Anduril.
Anduril dispose d'un portefeuille impressionnant de machines capables de faire pleuvoir le feu de l'enfer d'un simple coup de joystick et d'une simple pression sur un bouton depuis n'importe quel bunker dans n'importe quelle partie du monde à tout moment. La plupart portent des noms intimidants, comme Fury, "... un véhicule aérien autonome (AAV) multi-missions hautes performances du groupe 5..."
Le « groupe 5 » fait référence à un système de catégorisation utilisé par le ministère de la Défense américain (DoD) pour classer les drones en fonction de leur taille, de leur poids et de leurs capacités. Le groupe 5 est la crème de la crème. Parmi les exemples de drones du groupe 5, on peut citer le MQ-9 Reaper et le RQ-4 Global Hawk .
Anduril a également conçu et fabriqué le Bolt-M , un drone de 5,4 kg qui ressemble beaucoup à un drone DJI amateur que l'on voit survoler des matchs de football ou des zones touristiques pittoresques. Sauf que le « M » de Bolt-M signifie « munitions » et qu'il transporte une charge utile antipersonnel/antimatériel de 1,4 kg capable de provoquer de graves destructions.

Le Bolt-M peut voler, avec une précision extrême, vers sa cible avant d'exploser avec une gamme de différents types de munitions Anduril
Le 16 mai 2023, lors d'une audience de surveillance judiciaire du Sénat, Sam Altman a mis en garde contre les dangers de la technologie de l'IA, déclarant : « Si cette technologie tombe en panne, elle peut très mal tourner » et pourrait causer « un préjudice important au monde ». Altman a également ajouté que « GPT-4 est plus susceptible de répondre de manière utile et honnête, et de refuser les demandes nuisibles, que tout autre modèle largement déployé de capacité similaire ».
Certes, beaucoup de choses ont changé au cours des 18 derniers mois. Par exemple, en janvier 2024, OpenAI a mis à jour ses politiques d'utilisation, supprimant l'interdiction explicite d'utiliser des modèles d'IA pour des applications « militaires et de guerre », ouvrant la voie à l'annonce de la semaine dernière.
Alors que les revenus d’OpenAI sont estimés à 3,7 milliards de dollars en 2024, les coûts opérationnels sont substantiels et l’entreprise devrait perdre environ 5 milliards de dollars cette année. La formation des modèles d’IA représente une part importante de ce coût. Les contrats gouvernementaux et liés à la défense pourraient certainement sembler être un moyen intéressant de compenser ces pertes.
Quelques heures seulement après l'annonce la semaine dernière du partenariat OpenAI Anduril, les employés d'OpenAI ont exprimé leurs inquiétudes quant aux implications éthiques de l'application de l'intelligence artificielle aux opérations militaires, mais aussi quant à la manière dont la réputation de l'entreprise pourrait être affectée négativement.
OpenAI assure au public que la technologie est strictement utilisée à des fins défensives et non à des fins offensives. Cependant, un employé de l'entreprise multimilliardaire aurait rapidement fait remarquer que Skynet – le logiciel d'intelligence artificielle fictif des films Terminator originaux qui a conduit à la quasi-destruction de l'humanité – avait également été initialement déployé comme outil de défense aérienne pour l'Amérique du Nord.
Pourquoi le partenariat entre une entreprise de défense et le créateur de ChatGPT ?
« La première guerre des drones. »
Lorsque la Russie a de nouveau envahi l’Ukraine en février 2022, elle disposait de presque tous les avantages militaires : une force de combat plus importante, davantage de munitions, des véhicules blindés et une force aérienne performante. Au vu des chiffres, la Russie aurait dû atteindre rapidement ses objectifs en Ukraine.
Mais l'Ukraine a riposté. Et les petits drones grand public bricolés tels que le DJI Mavic et d'autres drones similaires sont devenus l'une des armes les plus efficaces de l'arsenal ukrainien, le pays allant même jusqu'à financer par financement participatif des drones supplémentaires, des pièces détachées et de l'argent pour plus de drones et de pièces détachées.
On estime qu'une frappe sur trois contre des chars et des véhicules russes a été menée par un drone amateur larguant des munitions d'en haut ou par un drone kamikaze amateur chargé d'explosifs.

« Army of Drones» a publié ce graphique sur sa page Facebook montrant le nombre de personnels, de véhicules et d'infrastructures détruits par les drones de fabrication ukrainienne, illustrant ainsi l'évolution de la guerre.
Le concept avait été testé sur le terrain lors de la première invasion russe de l'Ukraine en 2014, mais fin 2023, presque toutes les brigades de combat ukrainiennes disposaient d'au moins une unité de drones pour mener à bien des missions. Un drone de moins de mille dollars pourrait neutraliser plusieurs chars russes T-80, valant plus de deux millions de dollars chacun, avec une relative facilité et sans danger pour l'opérateur qui pourrait se trouver à des kilomètres de là.
Ce passage à une technologie peu coûteuse, hautement disponible, extrêmement précise et absolument dévastatrice a changé le visage de la guerre moderne. Et la façon de s'en défendre.
Le « problème »
L'armée américaine est aujourd'hui inégalée en termes de ressources, de portée mondiale, d'arsenal nucléaire et d'armement de pointe. La Chine dispose du plus grand nombre d'hommes et de la plus grande armée permanente du monde.
Selon Anduril, la course à l’IA entre les deux pays pourrait être le facteur décisif pour savoir quelle superpuissance dominera finalement le champ de bataille du 21e siècle et définira l’avenir de la sécurité mondiale pour les décennies à venir.
Un partenariat OpenAI-Anduril est ainsi né, même s'il allait à l'encontre des politiques d'utilisation originales d'OpenAI.
La « solution »
La collaboration entre OpenAI et Anduril se concentre sur la lutte contre les menaces aériennes, telles que les drones et les avions habités. La mise en œuvre de l'IA peut améliorer la détection, l'évaluation et la réponse aux menaces en temps réel. La formation de l'IA sur la bibliothèque de données d'Anduril réduira la charge de travail de l'opérateur tout en augmentant la connaissance de la situation pour protéger les États-Unis et leurs alliés.
« Notre partenariat avec OpenAI nous permettra d'utiliser leur expertise de classe mondiale en intelligence artificielle pour combler les lacunes urgentes en matière de capacités de défense aérienne dans le monde », a déclaré Brian Schimpf, cofondateur et PDG d'Anduril Industries, dans un communiqué de presse. « Ensemble, nous nous engageons à développer des solutions responsables qui permettent aux opérateurs militaires et de renseignement de prendre des décisions plus rapides et plus précises dans des situations de forte pression. »
Sam Altman , PDG d'OpenAI, a ajouté : « Notre partenariat avec Anduril contribuera à garantir que la technologie OpenAI protège le personnel militaire américain et aidera la communauté de la sécurité nationale à comprendre et à utiliser de manière responsable cette technologie pour assurer la sécurité et la liberté de nos citoyens. »
Certes, la technologie des essaims de drones autonomes a beaucoup progressé ces dernières années, comme en témoigne cette spectaculaire démonstration aérienne de 10 000 drones à Shenzhen :
https://twitter.com/RobertMSterling/status/1840606085511594133?ref_src=twsrc%5Etfw
OpenAI n'est pas le seul
Cette nouvelle intervient après que Meta a ouvert l'utilisation de son modèle de langage d'IA, appelé Llama, aux agences gouvernementales américaines et aux sous-traitants de la défense tels que Lockheed Martin. D'autres sous-traitants orientés vers la défense, comme Booz Allen Hamilton , Palantir et même Anduril, figurent sur la liste des entreprises auxquelles Meta fournira sa technologie d'IA - un revirement par rapport à la politique précédente de Meta qui interdisait l'utilisation de sa technologie à des fins militaires. Bien que Llama soit un projet open source, son utilisation militaire lui était auparavant interdite.
« En tant qu'entreprise américaine, qui doit son succès en grande partie à l'esprit d'entreprise et aux valeurs démocratiques défendues par les États-Unis, Meta souhaite jouer son rôle pour soutenir la sécurité et la prospérité économique de l'Amérique – et de ses plus proches alliés également », écrit Nick Clegg, président des affaires mondiales de Meta.
Quelques jours après l'annonce de Meta, Anthropic, le créateur de Claude AI , a également annoncé son partenariat avec Palantir Technologies, qui entretient des liens étroits avec les agences de défense, de renseignement et d'application de la loi.
Palantir a été critiquée par le passé pour son caractère secret, ses programmes de surveillance et ses programmes d'immigration et de contrôle des douanes (ICE). Elle a également été saluée pour son aide pendant la pandémie de COVID-19 pour avoir suivi la propagation du virus et pour avoir participé aux opérations de lutte contre le terrorisme du FBI et de la CIA.
OpenAI, Meta et Anthropic avaient initialement interdit l'utilisation de leur technologie à des fins militaires, mais ont ensuite changé de cap.
La liste est longue
Microsoft , Google, Oracle et même Amazon sont des noms connus de tous ; des entreprises puissantes qui interviennent dans presque tous les aspects de la vie quotidienne, peu importe ce que vous faites ou où vous vivez. Chacune d'entre elles a son mot à dire au sein du ministère de la Défense (DoD).
Le Joint Warfighting Cloud Capability (JWCC), qui a remplacé le contrat Joint Enterprise Defense Infrastructure (JEDI) appartenant à Microsoft en décembre 2022, dispose d'un budget de 9 milliards de dollars, réservé aux quatre entreprises mentionnées ci-dessus.
Qu'est-ce que JWCC ? Il s'agit d'une entreprise basée sur le cloud qui couvre toutes les missions du DoD , de la prise de décision de haut niveau aux opérations tactiques, et qui contient des données classifiées secrètes et ultra-secrètes. Elle assure également l'interopérabilité de l'intelligence artificielle et de l'apprentissage automatique (ML) sur tous les systèmes du DoD.
Chaque entreprise a quelque chose d'unique à offrir au programme Joint Warfighting, en dehors de ses services cloud. L'IA de Google peut accélérer « jusqu'à 30 fois le temps de prise de décision ». Amazon vante « des analyses de données avancées » et « des services de conseil et d'assistance ». Microsoft a mis en avant les 265 550 km de câbles sous-marins et de fibres optiques qu'elle possède. Oracle propose « des analyses prédictives », de la surveillance et de l'automatisation.
L'IA est très efficace pour prendre des décisions rapides, mais elle n'est pas à l'abri des erreurs. Une mauvaise classification ou un biais dans les données pourrait conduire à des décisions catastrophiques : imaginez un drone amical pris pour une menace et abattu.
La seule préoccupation mentionnée par ChatGPT était qu'une victime de drone tiré par un ami serait une conséquence catastrophique et involontaire d'une erreur d'identité, sans jamais mentionner le potentiel de perte accidentelle de vie humaine ou biologique.
La course à l'intégration de l'intelligence artificielle dans la politique, la stratégie et l'exécution militaires est bien lancée et les citoyens ordinaires ne peuvent pas faire grand-chose pour changer la situation. Les partenariats entre l'armée et les entreprises technologiques privées ne sont pas une nouveauté, mais l'introduction de l'intelligence artificielle l'est.
La question n’est pas tant de savoir si l’IA définira la guerre moderne et future, mais plutôt de savoir si nous sommes prêts à en subir les conséquences.
Tant que Gemini – et sa récente vague draconienne de « s'il te plaît, meurs » (please, die) pour avoir demandé un peu d'aide pour les devoirs – n'a pas accès aux missiles...
Skynet se prépare tout doucement, mais sûrement !
