Le système de refroidissement inspiré du nucléaire d'une start-up pourrait rendre les centres de données plus durables.
infohightech ·
Légende: Le système de refroidissement de Ferveret immerge les serveurs informatiques dans un liquide spécialisé qui absorbe la chaleur bien plus efficacement que l'air d'un ventilateur. Ce qui distingue cette solution des autres systèmes de refroidissement liquide, ce sont les bulles plus petites présentes à la surface du serveur, qui se détachent plus fréquemment, accélérant ainsi le transfert de chaleur. Crédits: Avec l'aimable autorisation de Ferveret
Fondée par deux chercheurs du MIT, Ferveret réduit la quantité d'énergie et d'eau nécessaire pour refroidir les puces qui alimentent l'IA. L'essor de l'intelligence artificielle s'accompagne d'une expansion considérable des centres de données. Ces derniers devraient représenter entre 9 et 17 % de la consommation totale d'électricité aux États-Unis d'ici la fin de la décennie. Aujourd'hui, environ un tiers de l'électricité consommée par les centres de données est dédiée au refroidissement des puces qui exécutent les modèles d'IA.
C’est ce processus que Ferveret s’efforce d’optimiser. Cette start-up, fondée par Reza Azizian, ancien postdoctorant en génie nucléaire au MIT, et Matteo Bucci, professeur associé Esther et Harold E. Edgerton au département des sciences et du génie nucléaires du MIT, adapte une approche issue des réacteurs nucléaires pour refroidir les puces électroniques sans eau et avec une consommation d’électricité considérablement réduite.
Le système de refroidissement de l'entreprise immerge les serveurs informatiques dans un liquide spécialisé qui absorbe la chaleur bien plus efficacement que l'air d'un ventilateur. Ce qui distingue cette solution des autres systèmes de refroidissement liquide, ce sont les bulles : le système de refroidissement adaptatif de phase (APC) de Ferveret produit des bulles beaucoup plus petites à la surface du serveur, qui se détachent plus fréquemment, accélérant ainsi le processus de transfert de chaleur.
Ferveret teste déjà ses solutions avec des entreprises telles que CleanSpark, développeur et opérateur de centres de données, FuriosaAI, société d'accélération de l'IA, et Switch, l'un des plus grands opérateurs de centres de données aux États-Unis.
Dans une étude récente menée en collaboration avec le département d'informatique Samueli de l'Université de Californie à Los Angeles, Ferveret a constaté que sa solution APC permettait d'améliorer de 15 % l'efficacité énergétique des calculs par rapport aux solutions de refroidissement liquide de pointe. En combinant ces économies avec le système de contrôle de l'énergie de Ferveret pour optimiser les conditions de fonctionnement, l'entreprise affirme permettre aux centres de données d'obtenir 35 % de tokens supplémentaires (petits fragments de texte ou de données) de leurs modèles d'IA, à consommation énergétique égale.
« Notre objectif est de rendre les centres de données aussi durables que possible et de les aider à utiliser chaque watt d'énergie pour générer des jetons, qui sont les ressources les plus utiles », explique Azizian. « Notre système permet le fonctionnement de puces plus puissantes, contribue à réduire considérablement le gaspillage d'énergie des centres de données et accomplit tout cela sans aucune consommation d'eau. »
Des réacteurs nucléaires à l'IA
En 2013, Azizian était postdoctorant au MIT lorsqu'il a rencontré Bucci, alors chercheur. Ils ont travaillé sur le transfert de chaleur dans les réacteurs nucléaires avant qu'Azizian ne rejoigne l'industrie, où il s'est spécialisé dans le refroidissement des puces électroniques. Azizian a d'abord travaillé sur le casque de réalité augmentée HoloLens de Microsoft, puis a intégré Nvidia, fabricant des processeurs graphiques utilisés par les entreprises pour entraîner et exécuter les modèles d'IA les plus récents. De son côté, Bucci a poursuivi ses recherches au MIT, où il est devenu maître de conférences en 2016.
Azizian est entré dans son premier centre de données en 2017, où il a été frappé par les ventilateurs massifs et bruyants qui remplissaient le bâtiment pendant leur fonctionnement.
« Je me suis dit : “Mon Dieu, ce n’est pas comme ça qu’on refroidit des installations !” », se souvient Azizian, en précisant que le refroidissement par air peut encore représenter jusqu’à 40 % de la consommation énergétique d’un centre de données. « Ce n’était pas une méthode efficace, mais comme les performances n’en souffraient pas, personne ne s’est soucié du fait que cette technologie de refroidissement ait 50 ans. »
Azizian a entamé des discussions avec Bucci sur l'application de leurs connaissances en matière d'optimisation des transferts thermiques dans les réacteurs nucléaires aux centres de données. Les scientifiques consacrent des décennies à la recherche de meilleures méthodes pour transférer la chaleur dans les réacteurs nucléaires.
« Le transfert de chaleur détermine la quantité d'énergie que l'on peut extraire du cœur du réacteur, ce qui se traduit directement en revenus », explique Azizian.
Les fondateurs ont lancé Ferveret en 2021. Beaucoup de choses ont changé depuis qu'Azizian a mis les pieds dans son premier centre de données. Les fabricants de puces ont intégré toujours plus de composants sur leurs puces, car l'essor de l'intelligence artificielle a rendu indispensable l'optimisation des capacités de calcul malgré des alimentations énergétiques limitées.
Cela a incité les opérateurs de centres de données à utiliser du liquide pour refroidir les puces, souvent grâce à une technique appelée refroidissement par immersion qui consiste à plonger les puces dans un liquide. La forme la plus efficace de refroidissement par immersion consiste à porter le liquide à ébullition.
« Un liquide est un meilleur conducteur de chaleur que l'air. C'est pourquoi, même si votre main est encore froide lorsqu'on la plonge dans de l'eau à température ambiante, elle reste froide », explique Bucci. « Lorsqu'un liquide bout, il devient encore plus efficace pour évacuer la chaleur, car le changement de phase nécessite beaucoup d'énergie, énergie que l'on extrait de la puce. Cela permet de transférer d'importantes quantités de chaleur avec des différences de température minimales entre les puces et le liquide. »
Malheureusement, l'ébullition du liquide complexifie le système car elle oblige les opérateurs à capturer et à reliquéfier les bulles tout en contrôlant la pression, la température et le stock de fluide.
Le système de Ferveret est une adaptation d'un procédé utilisé dans les réacteurs nucléaires, appelé ébullition sous-refroidie. Il utilise un liquide à bas point d'ébullition et est exempt des substances perfluoroalkylées et polyfluoroalkylées (PFAS), « polluants éternels », toxiques et persistantes, utilisées par d'autres méthodes. À la surface de la puce, le liquide de Ferveret produit des bulles plus petites que celles produites par d'autres techniques de refroidissement par immersion. Ces bulles se détachent plus fréquemment et se recondensent rapidement dans le liquide environnant, accélérant ainsi le cycle de réhumidification des bulles à la surface de la puce et, par conséquent, le transfert de chaleur.
Ferveret livre son système APC dans des boîtiers compacts, chacun contenant un serveur. Selon ses fondateurs, la modularité de ces systèmes facilite le déploiement et simplifie la maintenance.
« Les lois de la physique nous permettent d'atteindre des formats impossibles à concevoir auparavant », explique Azizian. « La plupart des solutions de refroidissement par immersion consistent en de grands réservoirs dans lesquels on immerge les serveurs. Nous proposons une solution plus compacte, modulaire et montée en rack, ce qui la rend adaptable aux infrastructures existantes et facilite ainsi le déploiement de notre technologie. »
Ferveret propose également un logiciel de contrôle qui ajuste en temps réel la puissance fournie à chaque serveur afin d'améliorer encore l'efficacité.
« Nous fournissons des systèmes complets comprenant l'enceinte frigorifique, le rack, les unités de distribution de froid et les capteurs de température et de pression », explique Bucci. « Notre logiciel surveille ces capteurs et optimise les conditions de fonctionnement à l'intérieur de chaque enceinte afin de minimiser la consommation d'énergie du système. »
IA avec moins de ressources
Outre le fait d'aider les centres de données à fonctionner plus efficacement, Ferveret améliore également la durabilité en facilitant l'exploitation des centres de données dans les régions éloignées grâce à une utilisation accrue d'énergies renouvelables.
« Le soleil brille dans des endroits où l'eau est rare. Notre technologie sans eau présente donc l'avantage de permettre la construction de centres de données alimentés à l'énergie solaire, mais sans système de refroidissement », explique Bucci. « Elle peut faciliter le déploiement de centres de données dans des régions où les ressources seraient normalement inexistantes, comme l'Afrique, le Moyen-Orient et certaines parties des États-Unis. C'est une véritable révolution. »
Ferveret est en pourparlers avec les géants du cloud computing, également appelés hyperscalers, et fait actuellement partie du programme Inception de Nvidia, destiné aux startups. L'entreprise prévoit d'annoncer de nouveaux partenariats dans le courant de l'année. Ses fondateurs envisagent ensuite de déployer rapidement leur technologie à grande échelle afin de contribuer à la croissance du secteur de l'IA sans aggraver la pression sur la planète.
« Le secteur informatique est confronté à un défi majeur : l’accès à l’énergie. De nombreuses régions rencontrent également des problèmes d’accès à l’eau », explique Azizian. « Ces difficultés ne feront que s’accentuer avec la croissance du secteur. L’objectif principal des opérateurs de centres de données est donc d’optimiser leurs revenus énergétiques. Nous avons démontré que nous pouvions y parvenir. »