Un partenaire de Nvidia affirme pouvoir réduire de 50 % la consommation d'énergie des centres de données, alors que le boom de l'IA pèse sur le réseau électrique
infohightech ·
Les grandes entreprises technologiques telles que Microsoft, Alphabet et Meta investissent des milliards dans l'infrastructure des centres de données pour soutenir l'IA générative. Mais la prolifération des centres de données a également entraîné une hausse de la demande d'énergie.
Sustainable Metal Cloud affirme que sa technologie de refroidissement par immersion est 28 % moins chère à installer que les autres solutions à base de liquide et qu'elle permet de réduire la consommation d'énergie jusqu'à 50 %.
« Elle permet un hébergement à haute densité pour les GPU. Elle permet le type d'hébergement dont nous avons besoin pour des plateformes telles que Grace Blackwell [de Nvidia] », a déclaré Tim Rosenfield, cofondateur et co-directeur général de Sustainable Metal Cloud.
Le boom de l'intelligence artificielle fait grimper la demande de processeurs plus puissants ainsi que l'énergie nécessaire au refroidissement des centres de données.
C'est une opportunité pour l'entreprise de centres de données Sustainable Metal Cloud, qui exploite des « usines d'intelligence artificielle durables » composées de ses HyperCubes à Singapour et en Australie.
Les HyperCubes contiennent des serveurs équipés de processeurs Nvidia qui sont immergés dans une huile synthétique appelée polyalphaoléfine qui évacue la chaleur plus efficacement que l'air. L'entreprise affirme que sa plateforme réduit la consommation d'énergie jusqu'à 50 % par rapport à la technologie traditionnelle de refroidissement par air généralement utilisée dans les centres de données.
« Elle permet un hébergement à haute densité pour les GPU. Elle permet le type d'hébergement dont nous avons besoin pour des plateformes telles que Grace Blackwell [de Nvidia] », a déclaré Tim Rosenfield, cofondateur et co-directeur général de Sustainable Metal Cloud, faisant référence à la nouvelle génération de processeurs graphiques d'intelligence artificielle que Nvidia annoncée en mars.
L'entreprise basée à Singapour a également déclaré que sa technologie de refroidissement par immersion est 28 % moins chère à installer que d'autres solutions à base de liquide. Les HyperCubes sont conçus pour aller dans n'importe quel centre de données et peuvent être déployés dans des espaces inutilisés au sein de centres de données existants.
« Notre solution étant conteneurisée, nous pouvons aller n'importe où très rapidement. Et nous pouvons ouvrir de nouvelles zones de disponibilité en réponse à la demande des clients... », souligne Tim Rosenfield.
Il a ajouté que SMC s'étendait à d'autres marchés tels que la Thaïlande et l'Inde.
La société compte déjà Nvidia et Deloitte parmi ses principaux partenaires d'entreprise. SMC est un partenaire cloud privilégié de Nvidia pour le calcul et l'IA et propose des clusters GPU conçus par le géant des puces. En juillet, SMC a annoncé un partenariat avec Deloitte dans le cadre duquel elle fournira un accès à l'infrastructure informatique GPU de Nvidia aux clients du cabinet de conseil pour créer des applications d'IA.
Les gouvernements et les entreprises se sont empressés de saisir l'impact transformateur de l'IA et la demande de centres de données a explosé en conséquence.
Des pays comme Singapour, où se trouve le siège de SMC, cherchent également à atténuer l'énorme consommation d'énergie en encourageant les centres de données « verts » pour soutenir ses ambitions en matière d'IA. Le pays a engagé plus de 500 millions de dollars singapouriens (379,7 millions de dollars) dans ce domaine.
Sustainable Metal Cloud a reçu un financement de l'investisseur public singapourien Temasek, ST Telemedia Global Data Centres, l'un des plus grands opérateurs de centres de données d'Asie.
SMC lève actuellement 400 millions de dollars en actions et 550 millions de dollars en dettes, les fonds étant destinés à l'expansion de ses centres de données au-delà de Singapour, a rapporté Bloomberg, citant des personnes familières avec le sujet.
Le refroidissement liquide prend de l'ampleur
Les entreprises technologiques s'intéressent de plus en plus au refroidissement liquide pour leurs centres de données, car les besoins croissants en matière de performances augmentent également les risques de surchauffe.
Traditionnellement, les centres de données disposent de grandes allées pour permettre à l'air refroidi de circuler, car la surchauffe peut entraîner des pannes d'équipement et des temps d'arrêt. En théorie, le refroidissement liquide devrait permettre à ces installations d'accueillir plus de serveurs dans leur espace existant.
Giordano Albertazzi, PDG du fournisseur d'infrastructure numérique Vertiv, a déclaré en juin que l'adoption du refroidissement liquide pourrait s'accélérer en 2024. Les offres de gestion thermique de Vertiv comprennent le refroidissement hybride par air et par liquide, ainsi que des centres de données entièrement refroidis par liquide.
Lors du Computex Taipei en juin, le PDG de Nvidia, Jensen Huang, a vanté les mérites de la technologie de refroidissement liquide direct de Supermicro, qui, selon lui, permet d'économiser de l'énergie et de réduire les coûts dans les centres de données d'intelligence artificielle.
Les serveurs sont immergés dans de l'huile à l'intérieur d'« hypercubes » semblables à des conteneurs afin d'évacuer efficacement la chaleur.
Charles Liang, PDG de Supermicro, a déclaré à CNBC en juin que le refroidissement liquide avait un meilleur rendement énergétique, ce qui se traduisait par de meilleures performances, moins de pollution et des coûts énergétiques moins élevés.
Selon M. Rosenfield de SMC, malgré l'engouement suscité par cette technologie, le déploiement du refroidissement liquide continue de poser des problèmes.
« La plupart des centres de données ne sont pas prêts pour le refroidissement liquide, quel qu'il soit, qu'il s'agisse d'un refroidissement par immersion ou d'un refroidissement direct de la puce. Le marché est en train de trouver la meilleure façon de l'utiliser et je pense qu'il y aura plusieurs façons de le faire », assure Tim Rosenfield.
M. Albertazzi, de Vertiv, a déclaré : « Il y a encore beaucoup de refroidissement par air dans les centres de données et cela continuera, même dans les centres de données d'IA à haute densité. »
https://smc.co/future-state/why-liquid-cooling-is-the-future-we-need-in-data-centres-today