Les serveurs du Centre de calcul académique du Michigan exécutent les programmes et les calculs de nombreux chercheurs de l’Université du Michigan. Mosharaf Chowdhury, professeur associé d’informatique et d’ingénierie, les utilise pour calculer la consommation électrique des modèles d’IA open source. Crédit photo : Marcin Szczepanski, École d’ingénierie du Michigan.

Les logiciels peuvent aider les développeurs à évaluer la consommation énergétique des modèles d’IA, ce qui est nécessaire pour réduire les coûts et la pression sur le réseau électrique.

Les utilisateurs et les développeurs d’IA peuvent désormais mesurer la quantité d’électricité consommée par différents modèles d’IA pour accomplir des tâches grâce à un logiciel libre et à un classement en ligne développé à l’Université du Michigan.

Les entreprises peuvent télécharger le logiciel pour évaluer les modèles privés exécutés sur du matériel privé. Bien que le logiciel ne puisse pas évaluer les coûts énergétiques des requêtes exécutées sur des modèles d’IA propriétaires dans des centres de données privés, il a permis aux ingénieurs de l’Université du Michigan de mesurer la consommation d’énergie des modèles d’IA à pondération ouverte, dont les paramètres sous-jacents sont accessibles au public. Les besoins énergétiques sont consultables sur un tableau de bord en ligne , mis à jour ce mois-ci. Leurs résultats ont révélé des tendances sur la façon dont la consommation d’énergie de l’IA varie en fonction de la conception et de la mise en œuvre du modèle.

« Si vous voulez optimiser l’efficacité énergétique et minimiser l’impact environnemental, il est essentiel de connaître les besoins énergétiques des modèles, mais les critères d’évaluation courants de l’IA ignorent cet aspect de la performance », a déclaré Mosharaf Chowdhury , professeur associé d’informatique et d’ingénierie et auteur principal d’une étude décrivant le logiciel.

Outils pour une prise de décision éclairée

Les chercheurs ont mesuré la consommation énergétique pour différentes tâches, notamment la messagerie instantanée, la génération de vidéos et d’images, la résolution de problèmes et la programmation. Pour certaines tâches, les besoins énergétiques des modèles à pondération ouverte peuvent varier d’un facteur 300. Forts de ces résultats, l’équipe de Chowdhury a élaboré des tutoriels destinés aux développeurs afin de les aider à mesurer et à réduire la consommation énergétique de leurs modèles. Ils ont présenté leur dernier tutoriel lors de la conférence NeurIPS (Neural Information Processing Systems) en décembre.

Chowdhury et son équipe se tiennent près de générateurs diesel de secours au Michigan Academic Computing Center de l’Université du Michigan, un centre de calcul de deux mégawatts situé à Ann Arbor, dans le Michigan, et dédié à la recherche universitaire. L’équipe est composée de Jae-Won Chung (à l’avant, à gauche), Mosharaf Chowdhury (au centre), Jeff Ma (à l’arrière) et Ruofan Wu (à l’avant, à droite). Crédit photo : Marcin Szczepanski, Michigan Engineering.

Les chercheurs ont conçu leur logiciel, partiellement financé par la National Science Foundation, afin de contribuer à répondre aux besoins énergétiques croissants de l’IA. Entre 80 % et 90 % de l’énergie consommée par le secteur l’est lorsqu’un modèle entraîné traite une requête dans des centres de données distants – une étape que l’industrie appelle l’inférence.

À mesure que les modèles d’IA prennent de l’ampleur et sont utilisés plus fréquemment, leur consommation énergétique augmente. Aux États-Unis, les centres de données ont consommé environ 4 % de la consommation électrique totale du pays en 2024 , soit l’équivalent de la consommation annuelle du Pakistan. D’après une étude du Pew Research Center, leur consommation devrait doubler d’ici 2030. Cependant, de nombreuses estimations de la croissance de l’IA reposent sur des calculs d’« enveloppe », obtenus en multipliant la consommation électrique maximale par GPU par le nombre de GPU. Il ne s’agit que d’une estimation du coût énergétique maximal possible.

« Beaucoup de gens s’inquiètent de la consommation énergétique croissante de l’IA, et c’est compréhensible », a déclaré Chowdhury. « Cependant, certains sont trop pessimistes, et ceux qui souhaitent davantage de centres de données sont souvent trop optimistes. La réalité est plus nuancée, et il reste beaucoup à découvrir, car aucune mesure directe de la consommation énergétique de l’IA n’est disponible. Notre outil peut fournir des données plus précises pour une meilleure prise de décision. »

Pourquoi certains modèles d’IA consomment-ils plus d’énergie ?

L’évaluation par l’équipe des modèles à poids ouvert a révélé des tendances générales quant à l’influence de la conception d’une IA sur sa consommation énergétique. Un facteur clé réside dans le nombre de jetons générés, unités de données de base traitées par l’IA. Dans les modèles à poids libres (LLM), les jetons sont des fragments de mots ; par conséquent, les modèles plus verbeux consomment généralement plus d’énergie que les modèles concis. Les modèles de résolution de problèmes ou de raisonnement consomment également plus d’énergie car ils génèrent des « chaînes de pensée » contenant de 10 à 100 jetons supplémentaires par requête.

Cependant, la consommation énergétique d’un seul modèle peut varier selon son mode d’exécution au sein du centre de données. Le traitement par lots des requêtes, par exemple, réduit la consommation énergétique globale du centre de données, même si le traitement de lots plus volumineux est plus long. Le choix du logiciel d’allocation de mémoire aux requêtes a également un impact sur la consommation énergétique de l’IA.

« Il existe de nombreuses façons de déployer l’IA et de traduire les objectifs du modèle en calculs matériels », explique Jae-Won Chung , doctorant en informatique et ingénierie à l’Université du Michigan et premier auteur de l’étude. « Notre outil automatise la recherche dans cet espace de paramètres et trouve la combinaison de paramètres la plus efficace en fonction des besoins de l’utilisateur. »

https://news.umich.edu/ai-energy-use-new-tools-show-which-model-consumes-the-most-power-and-why

https://dx.doi.org/10.48550/arxiv.2601.22076

Etudes: The ML.ENERGY Benchmark: Toward Automated Inference Energy Measurement and Optimization (NeurIPS)

Where Do the Joules Go? Diagnosing Inference Energy Consumption (arXiv)