L'IA de Deepseek génère autant d'émissions qu'un vol Londres-New York
infohightech ·
Les outils d'IA comme ChatGPT ont transformé nos vies personnelles et professionnelles. Environ 52 % des adultes américains utilisent régulièrement un modèle de langage large (LLM). Une nouvelle étude détaille les coûts environnementaux considérables de nos messages, et pourrait vous inciter à réfléchir à deux fois au type de chatbot que vous utilisez et à la manière dont vous l'utilisez.
Des chercheurs de l'Université des sciences appliquées Hochschule de Munich (HM), en Allemagne, ont étudié 14 LLM différents, allant des bases de connaissances les plus élémentaires aux plus complexes, et leur ont posé les mêmes 1 000 questions de référence. Combien de « tokens » générés par le LLM peuvent ensuite être convertis en émissions de gaz à effet de serre ?
« L'impact environnemental du questionnement des LLM formés est fortement déterminé par leur approche raisonnée, les processus de raisonnement explicites augmentant significativement la consommation d'énergie et les émissions de carbone », a déclaré Maximilian Dauner, premier auteur et chercheur à HM. « Nous avons constaté que les modèles basés sur le raisonnement produisaient jusqu'à 50 fois plus d'émissions de CO₂ que les modèles à réponse concise. »
Pour comprendre le fonctionnement des LLM et leur impact environnemental, il est important d'examiner les jetons et les paramètres. Lorsque nous saisissons une invite – qu'il s'agisse d'une question ou d'une instruction – nous générons des jetons, qui représentent des parties de notre invite. Le LLM en génère ensuite d'autres au fur et à mesure de son utilisation. Les LLM dotés de capacités de raisonnement avancées plus poussées créent encore plus de jetons. Les jetons représentent essentiellement les calculs (recherche, liaison, évaluation), et le calcul nécessite de la puissance, qui génère des émissions de CO2
Lorsqu'un LLM est entraîné, il « apprend » en ajustant des paramètres, qui sont des nombres au sein d'un réseau neuronal. Ces paramètres contrôlent la façon dont le modèle prédit un jeton après l'autre. Ainsi, un modèle avec moins de paramètres est considéré comme plus simple et doté de moins de « pondérations » (un nombre indiquant à l'IA l'importance d'un élément lors du traitement de l'information). Il générera moins de jetons, mais sera peut-être moins précis. À l'inverse, un modèle avec un nombre élevé de paramètres aura également un nombre élevé de pondérations, et devrait donc être plus précis, mais ce n'est pas toujours le cas.
Malheureusement, les LLM les plus complexes et les plus précis sont également ceux qui consomment le plus d’énergie.
Les scientifiques ont utilisé un ordinateur avec GPU NVIDIA A100 et le framework Perun (qui analyse les performances des LLM et la puissance requise) pour évaluer la consommation énergétique, en appliquant un facteur d'émission moyen de 480 gCO₂/kWh. Ils ont ensuite demandé à chacun des 14 modèles de répondre à 1 000 questions de quiz portant sur la philosophie, l'histoire mondiale, le droit international, l'algèbre abstraite et les mathématiques du secondaire. Les LLM testés étaient un mélange de modèles textuels et de modèles de raisonnement de Meta , Alibaba, Deep Cognito et Deepseek.
« L'analyse des émissions combinées d’équivalent de CO2, de la précision et de la génération de jetons pour l'ensemble des 1 000 questions révèle des tendances claires et des compromis entre l'échelle du modèle, la complexité du raisonnement et l'impact environnemental », ont écrit les chercheurs. « Plus la taille du modèle augmente, plus la précision tend à s'améliorer. Cependant, ce gain est également lié à une croissance substantielle des émissions d'équivalent CO₂ et du nombre de jetons générés. »
Ils ont constaté que les modèles de raisonnement créaient en moyenne 543,5 jetons de « réflexion » par question du quiz, tandis que les modèles textuels en généraient en moyenne environ 37,7 pour la même question. Cependant, si davantage de jetons implique davantage d'émissions, les chercheurs ont constaté que cela ne signifiait pas pour autant que le LLM était plus précis, mais simplement plus verbeux.
Le modèle le plus précis était l'un des LLM de raisonnement testés, Deep Cogito 70B (70 milliards de paramètres), avec un taux de précision de 84,9 %. Il a produit trois fois plus d'émissions que des LLM de taille similaire, mais fournissant des réponses plus basiques.
« Actuellement, nous constatons un compromis évident entre précision et durabilité inhérent aux technologies LLM », a déclaré Maximilian Dauner. « Aucun des modèles limitant les émissions à moins de 500 grammes d'équivalent CO₂ n'a atteint une précision supérieure à 80 % en répondant correctement aux 1 000 questions. »
Le modèle de raisonnement R1 70B de Deepseek était le plus énergivore, produisant 2 042 g d'équivalent CO₂ en émissions, soit à peu près l'équivalent d'un trajet de 15 km en véhicule à essence. Si cela peut paraître peu à petite échelle, il est bon de rappeler que plus de 130 millions d'Américains utilisent régulièrement un modèle d'IA. Et ce modèle de Deepseek n'était pas non plus le plus précis, avec un taux de précision de 78,9 %. Les chercheurs ont constaté que si ce modèle répondait à 600 000 questions, les émissions de CO₂ seraient équivalent à celles d'un vol aller-retour Londres-New York.
Le modèle Qwen 7B d'Alibaba était le plus économe en énergie (27,7 g d'émissions d'équivalent CO2), mais il n'a atteint qu'une précision de 31,9 %.
« En moyenne, les modèles basés sur le raisonnement ont nécessité beaucoup plus de jetons lors des deux phases de test », ont noté les chercheurs dans l'étude. « En particulier lors de la phase à choix multiples, les modèles de raisonnement ont souvent eu du mal à produire des réponses concises, malgré des instructions explicites leur demandant de ne renvoyer que l'indice de choix. Par exemple, Deepseek-R1 7B a généré jusqu'à 14 187 jetons pour une seule question mathématique, tandis que les modèles standards ont systématiquement produit des réponses minimales à un seul jeton. »
La consommation d'énergie variait également selon le sujet, l'algèbre abstraite et la philosophie exigeant davantage de raisonnement que les questions plus simples. Il convient également de noter que cette étude n'a porté que sur un échantillon des LLM auxquels nous avons actuellement accès, et n'a pas examiné certains acteurs majeurs, tels que ChatGPT d'OpenAI, Gemini de Google, Grok de X et Claude d'Anthropic.
Si les LLM sont indéniablement là pour durer et sont susceptibles de s'intégrer davantage à nos vies, les chercheurs espèrent que leur étude aidera les utilisateurs à faire de meilleurs choix, en passant d'un modèle à l'autre en fonction de la tâche à accomplir. Ils espèrent également qu'elle attirera l'attention sur la nécessité de modèles de raisonnement plus économes en énergie à l'avenir.
« Les utilisateurs peuvent réduire considérablement leurs émissions en incitant l'IA à générer des réponses concises ou en limitant l'utilisation de modèles haute capacité aux tâches qui nécessitent réellement cette puissance », assure Maximilian Dauner. « Si les utilisateurs connaissent le coût exact en CO₂ des résultats générés par l'IA, comme se transformer négligemment en figurine, ils pourraient être plus sélectifs et plus réfléchis quant au moment et à la manière d'utiliser ces technologies. »
https://www.frontiersin.org/journals/communication/articles/10.3389/fcomm.2025.1572947/full