La dernière puce IA de Microsoft rivalise avec celles d'Amazon et de Google
infohightech ·
Microsoft annonce aujourd'hui le successeur de sa première puce IA interne, la Maia 200. Basée sur le processus 3 nm de TSMC, Microsoft affirme que son accélérateur IA Maia 200 « offre des performances FP4 trois fois supérieures à celles de la troisième génération d'Amazon Trainium et des performances FP8 supérieures à celles de la septième génération de TPU de Google ».
Chaque puce Maia 200 compte plus de 100 milliards de transistors, tous conçus pour gérer des charges de travail IA à grande échelle. « Maia 200 peut facilement exécuter les modèles les plus volumineux actuels, tout en offrant une marge suffisante pour des modèles encore plus volumineux à l'avenir », explique Scott Guthrie, vice-président exécutif de la division Cloud et IA de Microsoft.
Microsoft utilisera Maia 200 pour héberger le modèle GPT-5.2 d'OpenAI et d'autres modèles pour Microsoft Foundry et Microsoft 365 Copilot. « Maia 200 est également le système d'inférence le plus efficace jamais déployé par Microsoft, avec des performances par dollar supérieures de 30 % à celles du matériel de dernière génération de notre parc actuel », explique M. Guthrie.
Maia 200 comparé aux dernières puces IA d'Amazon et de Google. Image : Microsoft
La flexibilité de Microsoft en matière de performances par rapport à ses concurrents directs dans le domaine des technologies de pointe est différente de celle dont il faisait preuve lors du lancement de Maia 100 en 2023, où il ne souhaitait pas être entraîné dans des comparaisons directes avec les capacités cloud IA d'Amazon et de Google. Cependant, Google et Amazon travaillent tous deux sur des puces IA de nouvelle génération. Amazon collabore même avec Nvidia pour intégrer sa future puce Trainium4 à NVLink 6 et à l'architecture de rack MGX de Nvidia.
L'équipe Superintelligence de Microsoft sera la première à utiliser ses puces Maia 200, et la société invite également des universitaires, des développeurs, des laboratoires d'IA et des contributeurs à des projets de modèles open source à découvrir en avant-première le kit de développement logiciel Maia 200.
Des systèmes d’IA optimisés
Au niveau des systèmes, Maia 200 introduit une nouvelle conception de réseau évolutif à deux niveaux basés sur l’Ethernet standard. Une couche de transport personnalisée et une carte réseau étroitement intégrée offrent des performances, une grande fiabilité et des avantages financiers significatifs sans dépendre de structures propriétaires.
Chaque accélérateur offre :
- 2,8 To/s de bande passante bidirectionnelle dédiée et évolutive
- Des opérations collectives prévisibles et hautement performantes sur des clusters pouvant compter jusqu’à 6 144 accélérateurs
Cette architecture offre des performances évolutives pour les clusters d’inférence denses tout en réduisant la consommation d’énergie et le coût total de possession (TCO) global de la flotte mondiale d’Azure.
Au sein de chaque tray, quatre accélérateurs Maia sont entièrement connectés par des liaisons directes non commutées, ce qui permet de maintenir une communication à haut débit au niveau local pour une efficacité d’inférence optimale. Les mêmes protocoles de communication sont utilisés pour la mise en réseau intra-rack et inter-rack à l’aide du protocole de transport Maia AI, ce qui permet une évolutivité transparente entre les nœuds, les racks et les clusters d’accélérateurs avec un minimum de sauts réseau. Cette structure unifiée simplifie la programmation, améliore la flexibilité de la charge de travail et réduit la capacité inutilisée tout en maintenant des performances et une rentabilité constante à l’échelle du cloud.
Une approche de développement cloud-native
L’un des principes fondamentaux des programmes de développement de silicium de Microsoft consiste à valider autant que possible l’ensemble du système de bout en bout avant la mise à disposition finale du silicium.
Un environnement pré-silicium sophistiqué a guidé l’architecture Maia 200 dès ses premières étapes, en modélisant avec une grande fidélité les modèles de calcul et de communication des LLM. Cet environnement de co-développement précoce nous a permis d’optimiser le silicium, le réseau et les logiciels système comme un tout unifié, bien avant le premier silicium.
Microsoft a également conçu Maia 200 pour une disponibilité rapide et transparente dans le centre de données dès le début, en mettant en place une validation précoce de certains des éléments les plus complexes du système, notamment le réseau backend et notre Heat Exchanger Unit (unité d’échange thermique) de deuxième génération à boucle fermée. L’intégration native avec le niveau de contrôle Azure offre des capacités de sécurité, de télémétrie, de diagnostic et de gestion tant au niveau des puces que des racks, maximisant ainsi la fiabilité et le temps de fonctionnement des charges de travail IA critiques pour la production.
Grâce à ces investissements, les modèles d’IA ont pu fonctionner sur le silicium Maia 200 quelques jours seulement après l’arrivée des premiers composants. Le délai entre le premier silicium et le premier déploiement dans un rack de centre de données a été réduit de plus de moitié par rapport à des programmes d’infrastructure d’IA comparables. Cette approche de bout en bout, de la puce au logiciel en passant par le centre de données, se traduit directement par une utilisation accrue, un délai de production plus court et des améliorations durables en termes de performances par dollar et par watt à l’échelle du cloud.