Des chercheurs du MIT et du laboratoire d’IA Watson MIT-IBM ont développé un outil qui prédit la consommation d’énergie des charges de travail d’IA, aidant ainsi les data centers à allouer efficacement leurs ressources et à réduire le gaspillage d’énergie. Crédit : Unsplash/CC0 Domaine public
La méthode « EnergAIzer » génère des résultats fiables en quelques secondes, permettant aux opérateurs de centres de données d’allouer efficacement les ressources et de réduire le gaspillage d’énergie.
En raison de la croissance exponentielle de l’intelligence artificielle, on estime que les centres de données consommeront jusqu’à 12 % de l’électricité totale des États-Unis d’ici 2028 , selon le Laboratoire national Lawrence Berkeley. Améliorer l’efficacité énergétique des centres de données est l’une des pistes explorées par les scientifiques pour rendre l’IA plus durable.
Dans cette optique, des chercheurs du MIT et du laboratoire d’IA Watson MIT-IBM ont développé un outil de prédiction rapide qui indique aux opérateurs de centres de données la quantité d’énergie qui sera consommée par l’exécution d’une charge de travail d’IA particulière sur un processeur ou une puce d’accélération d’IA spécifique.
Leur méthode fournit des estimations de consommation fiables en quelques secondes, contrairement aux techniques de modélisation traditionnelles qui peuvent nécessiter des heures, voire des jours, pour donner des résultats. De plus, leur outil de prédiction est applicable à une large gamme de configurations matérielles, y compris aux conceptions émergentes qui n’ont pas encore été déployées.
Les opérateurs de centres de données pourraient utiliser ces estimations pour répartir efficacement les ressources limitées entre plusieurs modèles d’IA et processeurs, améliorant ainsi l’efficacité énergétique. De plus, cet outil permettrait aux développeurs d’algorithmes et aux fournisseurs de modèles d’évaluer la consommation énergétique potentielle d’un nouveau modèle avant son déploiement.
« Le défi de la durabilité de l’IA est une question urgente à laquelle nous devons répondre. Parce que notre méthode d’estimation est rapide, pratique et fournit un retour d’information direct, nous espérons qu’elle incitera les développeurs d’algorithmes et les opérateurs de centres de données à réfléchir davantage à la réduction de la consommation d’énergie », déclare Kyungmi Lee, postdoctorante au MIT et auteure principale d’un article sur cette technique .
Elle est accompagnée dans cet article par Zhiye Song, doctorant en génie électrique et informatique ; Eun Kyung Lee et Xin Zhang, responsables de recherche chez IBM Research et au laboratoire d’intelligence artificielle MIT-IBM Watson ; Tamar Eilam, IBM Fellow, scientifique en chef du calcul durable chez IBM Research et membre du laboratoire d’intelligence artificielle MIT-IBM Watson ; et Anantha P. Chandrakasan, auteur principal, provost du MIT, professeur Vannevar Bush de génie électrique et d’informatique et membre du laboratoire d’intelligence artificielle MIT-IBM Watson. Ces travaux de recherche sont présentés cette semaine au Symposium international de l’IEEE sur l’analyse des performances des systèmes et des logiciels.
Accélération de l’estimation énergétique
Dans un centre de données, des milliers de processeurs graphiques (GPU) puissants effectuent des opérations d’entraînement et de déploiement de modèles d’IA. La consommation énergétique d’un GPU donné varie en fonction de sa configuration et de la charge de travail qu’il traite.
De nombreuses méthodes traditionnelles de prédiction de la consommation énergétique consistent à décomposer une charge de travail en étapes individuelles et à simuler l’utilisation de chaque module du GPU, étape par étape. Cependant, les charges de travail d’IA, telles que l’entraînement de modèles et le prétraitement des données, sont extrêmement volumineuses et leur simulation de cette manière peut prendre des heures, voire des jours.
« En tant qu’opérateur, si je veux comparer différents algorithmes ou configurations pour trouver la méthode la plus économe en énergie, si une seule émulation doit prendre des jours, cela va devenir très peu pratique », explique Lee.
Pour accélérer le processus de prédiction, les chercheurs du MIT ont cherché à utiliser des informations moins détaillées, mais plus rapides à estimer. Ils ont constaté que les charges de travail d’IA présentent souvent de nombreux schémas répétitifs. Ils pouvaient exploiter ces schémas pour générer les informations nécessaires à une estimation fiable et rapide de la consommation d’énergie.
Dans de nombreux cas, les développeurs d’algorithmes conçoivent des programmes pour qu’ils s’exécutent le plus efficacement possible sur un GPU. Par exemple, ils utilisent des optimisations bien structurées pour répartir le travail entre les cœurs de traitement parallèle et déplacer les blocs de données de la manière la plus efficace.
« Ces optimisations utilisées par les développeurs de logiciels créent une structure régulière, et c’est ce que nous essayons d’exploiter », explique Lee.
Les chercheurs ont développé un modèle d’estimation léger, appelé EnergAIzer, qui capture le profil de consommation d’énergie d’un GPU à partir de ces optimisations.
Une évaluation précise
Bien que leur estimation ait été rapide, les chercheurs ont constaté qu’elle ne prenait pas en compte tous les coûts énergétiques. Par exemple, chaque fois qu’un GPU exécute un programme, sa configuration initiale engendre un coût énergétique fixe. De plus, chaque opération effectuée par le GPU sur un bloc de données provoque un coût énergétique supplémentaire.
En raison de fluctuations matérielles ou de conflits d’accès ou de déplacement de données, un GPU peut ne pas être en mesure d’utiliser toute la bande passante disponible, ce qui ralentit les opérations et consomme davantage d’énergie au fil du temps.
Pour intégrer ces coûts et variations supplémentaires, les chercheurs ont recueilli des mesures réelles provenant de GPU afin de générer des termes de correction qu’ils ont appliqués à leur modèle d’estimation.
« De cette façon, nous pouvons obtenir une estimation rapide et très précise », explique-t-elle.
Au final, l’utilisateur peut fournir les informations relatives à sa charge de travail, comme le modèle d’IA qu’il souhaite exécuter ainsi que le nombre et la longueur des entrées utilisateur à traiter, et EnergAIzer fournira une estimation de la consommation d’énergie en quelques secondes.
L’utilisateur peut également modifier la configuration du GPU ou ajuster la vitesse de fonctionnement pour observer l’impact de ces choix de conception sur la consommation énergétique globale.
Lorsque les chercheurs ont testé EnergAizer en utilisant des données réelles de charge de travail d’IA provenant de GPU réels, celui-ci a pu estimer la consommation d’énergie avec une erreur d’environ 8 %, ce qui est comparable aux méthodes traditionnelles qui peuvent prendre des heures pour produire des résultats.
Leur méthode pourrait également être utilisée pour prédire la consommation d’énergie des futurs GPU et des configurations d’appareils émergentes, à condition que le matériel ne change pas radicalement en peu de temps.
À l’avenir, les chercheurs souhaitent tester EnergAizer sur les configurations GPU les plus récentes et étendre le modèle afin qu’il puisse être appliqué à de nombreux GPU collaborant pour exécuter une charge de travail.
« Pour avoir un réel impact sur le développement durable, nous avons besoin d’un outil capable de fournir une solution d’estimation énergétique rapide à tous les niveaux, pour les concepteurs de matériel, les opérateurs de centres de données et les développeurs d’algorithmes, afin qu’ils soient tous plus conscients de leur consommation d’énergie. Avec cet outil, nous avons fait un pas dans cette direction », explique Lee.
Ces travaux de recherche ont été financés, en partie, par le laboratoire d’intelligence artificielle MIT-IBM Watson.
https://news.mit.edu/2026/faster-way-to-estimate-ai-power-consumption-0427
