Caractéristiques clés des agents d’IA et leurs implications en matière d’infrastructure. Crédit : KAIST
Avec l’avènement de l’ère des agents d’IA — des systèmes capables de raisonner et d’agir de manière autonome —, la consommation énergétique des centres de données devient un enjeu crucial. Une équipe de recherche du KAIST a analysé, pour la première fois, le coût de calcul et la consommation d’énergie des agents d’IA, et a constaté qu’ils peuvent consommer jusqu’à 136,5 fois plus d’énergie par requête que l’IA générative classique.
L’étude, publiée dans les actes du Symposium international IEEE sur l’architecture des ordinateurs à hautes performances (HPCA: High Performance Computer Architecture) de 2026 , démontre que la compétitivité à l’ère de l’IA ne se limite plus aux performances des modèles, mais englobe également l’efficacité des centres de données et des infrastructures énergétiques. Cette communication a été présentée en février lors du 32e Symposium international IEEE sur l’architecture des ordinateurs à hautes performances.
KAIST a annoncé qu’une équipe de recherche dirigée par le professeur Minsoo Rhu de l’École de génie électrique a analysé de manière systématique, pour la première fois, la quantité de puissance de calcul et d’énergie dont les agents d’IA ont besoin dans des environnements de service réels.
Les applications s’appuyant sur des modèles de langage complexes (LLM), comme ChatGPT, ont rapidement évolué et ne se contentent plus de répondre à des questions. Elles se transforment désormais en agents d’IA : des systèmes d’IA de nouvelle génération capables de planifier, d’utiliser des outils externes tels que la recherche web, les calculatrices et les environnements d’exécution de code, et de résoudre des tâches complexes en coordonnant de manière autonome de multiples étapes.
Bien que les agents d’IA soient de plus en plus utilisés dans des domaines tels que le développement de logiciels, la recherche et l’automatisation du lieu de travail, on sait peu de choses sur la quantité d’électricité et les coûts opérationnels nécessaires à leur fonctionnement en pratique.
L’équipe de recherche a défini les agents d’IA non pas comme de simples programmes informatiques, mais comme un nouveau type de charge de travail nécessitant un traitement continu par les serveurs des centres de données et les unités de traitement graphique (GPU), des puces hautes performances utilisées pour les calculs d’IA à grande échelle. L’équipe a ensuite analysé la charge de calcul et la consommation énergétique induites lors de l’exécution effective d’un agent d’IA.
De gauche à droite : Byeongjun Shin, étudiant en master ; Jinha Chung, étudiante en master/doctorat intégré ; Jiin Kim, doctorante ; et, en haut, le professeur Minsoo Rhu de KAIST. Crédit : KAIST
Les appels répétés aux modèles alimentent cette hausse
L’analyse a révélé que les agents d’IA effectuent beaucoup plus d’appels à un modèle de langage (LLM) qu’à un raisonnement par chaîne de pensée classique. Le raisonnement par chaîne de pensée (CoT: Chain-of-thought) désigne une méthode dans laquelle un modèle d’IA décompose son processus de raisonnement étape par étape pour parvenir à une réponse, tandis qu’un appel à un LLM désigne chaque requête de calcul adressée à un modèle de langage pour générer un nouveau jugement ou une nouvelle réponse.
Du fait des appels répétés aux modèles de langage lors de leur exécution, les agents d’IA voient leur latence de réponse augmenter considérablement. L’équipe a constaté que ce temps de réponse peut être multiplié par 153,7, tandis que les GPU restent inactifs pendant près de 54,5 % du temps d’exécution total, le temps que des outils externes effectuent leurs tâches. Autrement dit, à mesure que les systèmes d’IA prennent en charge des tâches plus complexes, une nouvelle forme d’inefficacité apparaît : les coûteux GPU ne peuvent être pleinement exploités.
L’équipe de recherche a également analysé la consommation énergétique des agents d’IA à l’échelle d’un centre de données. Un agent d’IA utilisant un LLM à 70 milliards de paramètres — une échelle comparable aux services d’IA commerciaux actuels — a consommé en moyenne 348,41 wattheures par requête. Cela représente 136,5 fois plus d’énergie que celle consommée par un système d’IA générative classique effectuant des questions simples.
De plus, l’équipe a envisagé un scénario futur dans lequel 13,7 milliards de requêtes d’agents d’IA seraient générées chaque jour, soit un volume équivalent au trafic de recherche actuel de Google.
Demande de puissance à l’échelle de la recherche
Dans ce scénario, la demande en énergie des centres de données atteindrait environ 198,9 gigawatts, un niveau dépassant largement l’échelle des centres de données d’IA actuellement en développement (qui se situent dans la gamme de quelques gigawatts) et équivalent à environ la moitié de la consommation d’énergie moyenne des États-Unis.
Cette étude démontre que, dans le domaine de l’IA, l’enjeu de la compétition se déplace de l’« IA plus intelligente » vers l’« IA plus efficace ». À l’avenir, il sera essentiel non seulement de perfectionner les modèles d’IA, mais aussi d’optimiser conjointement les semi-conducteurs, les centres de données et l’infrastructure énergétique grâce à une conception collaborative. Une telle approche devrait devenir une stratégie clé pour réduire les coûts d’exploitation des services d’IA et bâtir une infrastructure d’IA durable.
« Cette étude est la première à démontrer quantitativement non seulement comment l’IA devient plus intelligente, mais aussi la quantité d’électricité et les coûts nécessaires pour mettre en œuvre et maintenir cette intelligence », a déclaré le professeur Minsoo Rhu.
« À mesure que les agents d’IA se généralisent, il deviendra de plus en plus important d’adopter une approche de co-conception intégrée qui optimise non seulement l’infrastructure des centres de données d’IA, mais aussi les modèles d’agents d’IA et l’infrastructure énergétique. »
Il a ajouté : « La recherche et l’investissement dans ce domaine seront essentiels pour réduire considérablement le coût d’accès aux services d’IA pour les utilisateurs finaux, tout en construisant une infrastructure d’IA durable. »
L’étude a été menée avec Jiin Kim, doctorant à l’école d’ingénierie électrique de KAIST, comme premier auteur.
L’équipe de recherche a également publié en open source les implémentations d’agents d’IA et les benchmarks utilisés dans l’article afin de soutenir les études de suivi menées par des chercheurs du monde entier.
https://news.kaist.ac.kr/newsen/html/news/?mode=V&mng_no=64090
