Google dévoile Ironwood, sa puce d’IA « la plus puissante » et « la plus économe en énergie » à ce jour.
Google dévoile Ironwood, son TPU le plus puissant, pour l’ère de l’inférence, et les machines virtuelles Axion Arm promettant un rapport prix/performances jusqu’à 2 fois supérieur pour les charges de travail d’IA.
Google intensifie la course au matériel d’IA. Le géant technologique a dévoilé Ironwood, sa toute nouvelle puce d’IA décrite comme « la plus puissante et la plus économe en énergie à ce jour », promettant un bond en avant décuplé en termes de performances pour l’inférence à grande échelle et l’entraînement de modèles.
Annoncées par Amin Vahdat et Mark Lohmeyer, dirigeants de Google Cloud, les TPU Ironwood sont spécialement conçues pour les charges de travail les plus exigeantes, marquant un tournant vers ce que Google appelle « l’ère de l’inférence ».
L’inférence devient le nouveau terrain de jeu de l’IA.
Google présente cette évolution comme un tournant pour le secteur, passant de l’apprentissage de l’IA à son fonctionnement continu. À l’ère de l’inférence , l’accent est mis sur la performance, la réactivité et la coordination parfaite entre les capacités de calcul général et les accélérateurs d’apprentissage automatique.
À mesure que les modèles évoluent pour gérer le raisonnement et la prise de décision en temps réel, Google affirme que les prochaines avancées proviendront de la conception au niveau système, plutôt que de simples ensembles de données plus volumineux ou d’architectures plus complexes. Cette philosophie sous-tend Ironwood : une puce conçue pour alimenter une IA dynamique.
Repousser les limites de l’IA
La nouvelle TPU Ironwood de Google est conçue pour gérer les charges de travail d’IA les plus lourdes, de l’entraînement de modèles à grande échelle à l’inférence ultra-rapide, avec un bond en avant en termes de vitesse et d’efficacité qui redéfinit sa gamme de semi-conducteurs.
La puce offre des performances de pointe 10 fois supérieures à celles du TPU v5p et plus de 4 fois supérieures aux performances par puce de son prédécesseur, Trillium (v6e), ce qui en fait le processeur le plus avancé de Google pour l’entraînement et la diffusion de modèles d’IA.
Conçu avec un refroidissement, une fiabilité et une efficacité énergétique améliorés, Ironwood est destiné à un déploiement à l’échelle planétaire, capable de gérer des milliers de puces sans perte de stabilité.
Les premiers utilisateurs mettent déjà cette promesse à l’épreuve. Anthropic prévoit d’exploiter jusqu’à un million de TPU pour ses modèles Claude , tandis que Lightricks et Essential AI font état d’améliorations significatives de la qualité de génération et de l’efficacité d’entraînement.
James Bradbury, responsable des calculs chez Anthropic, a déclaré : « Les améliorations apportées par Ironwood à la fois aux performances d’inférence et à l’évolutivité de l’entraînement nous aideront à évoluer efficacement tout en maintenant la vitesse et la fiabilité que nos clients attendent. »
Là où 9 000 puces pensent comme une seule
Ironwood n’est pas un système isolé : il est le cœur battant de l’hypercalculateur d’IA de Google, un système conçu pour faire fonctionner des milliers de processeurs comme un seul.
Chaque superpod relie jusqu’à 9 216 TPU via un réseau de 9,6 térabits par seconde, permettant aux puces de communiquer quasi instantanément et de fonctionner comme un système unifié. Ensemble, ces pods partagent 1,77 pétaoctets de mémoire ultrarapide, éliminant ainsi les ralentissements de données qui entravent généralement le traitement d’IA à grande échelle.
Concrètement, cela signifie que des modèles complexes, tels que les chatbots, les générateurs d’images ou les systèmes de recherche, peuvent fonctionner plus rapidement, plus efficacement et sans interruption. En permettant à des milliers de puces de collaborer de manière fluide, Google offre aux entreprises et aux développeurs utilisant son infrastructure d’IA des réponses plus rapides, une latence réduite et des performances optimisées.
Pour assurer le bon fonctionnement de son immense réseau, Google s’appuie sur la commutation de circuits optiques (OCS), une technologie autoréparatrice qui redirige instantanément les charges de travail en cas d’interruption. L’entreprise affirme que son infrastructure affiche une disponibilité de 99,999 % depuis 2020, grâce à un système de refroidissement liquide avancé et à une gestion automatisée des clusters.
Une couche logicielle co-conçue, comprenant Kubernetes Cluster Director, MaxText, vLLM et GKE Inference Gateway, permet d’exploiter au maximum les performances du matériel, réduisant ainsi la latence et les coûts de service pour les clients opérant à l’échelle planétaire.
Axion intervient là où la puissance rencontre la praticité
Parallèlement à Ironwood, Google a présenté Axion, sa nouvelle gamme de processeurs basés sur l’architecture Arm, conçus pour optimiser les calculs quotidiens indispensables au bon fonctionnement des systèmes d’IA. Cette gamme comprend le N4A, actuellement disponible en avant-première, et le C4A Metal, bientôt disponible. Ces deux processeurs offrent des performances jusqu’à deux fois supérieures à celles des machines virtuelles x86 comparables, pour un rapport prix/performances optimal.
En termes plus simples, elles promettent une puissance de calcul accrue pour un coût et une consommation d’énergie moindres, ce qui permet aux entreprises d’exécuter plus facilement et à moindre coût les tâches de support dont dépend l’IA, du traitement et de l’analyse des données à l’hébergement d’applications et à la gestion des systèmes.
Les entreprises qui testent Axion affirment que les améliorations sont déjà tangibles. Vimeo, par exemple, a constaté une augmentation de 30 % des performances de transcodage vidéo, et ZoomInfo a mesuré une amélioration de 60 % du rapport prix/performances pour les charges de travail de données essentielles. Rise a indiqué que les nouvelles instances ont permis de réduire la consommation de calcul de 20 % tout en maintenant une faible latence et des marges élevées.
Ironwood et Axion proposent une solution complète à Google : une accélération brute pour l’IA à grande échelle, associée à une puissance de calcul efficace et polyvalente pour l’ensemble des applications environnantes. Il s’agit d’une stratégie globale conçue pour un avenir où l’intelligence est continue et où le cloud lui-même apprend à penser plus vite.
https://www.techrepublic.com/article/news-google-ironwood-most-powerful-ai-chip/