La révolution de l’inférence par l’IA est arrivée.
infohightech ·
Depuis 2020 environ, l’IA s’est principalement concentrée sur l’entraînement de modèles toujours plus grands et performants. Les grands modèles de langage (LLM) ont vu leur nombre de paramètres exploser, passant de millions à des billions. Cette approche s’est avérée efficace : la plus grande version de GPT-3 d’OpenAI, sortie en 2020, n’a répondu correctement qu’à 43,9 % des questions d’un test de connaissances et de raisonnement très répandu. Quatre ans plus tard seulement, GPT-40 a atteint un score de 88,7 % au même test, égalant ainsi les performances des experts humains.
Les laboratoires d’IA de pointe continuent d’entraîner des modèles toujours plus vastes, mais cet entraînement est quelque peu relégué au second plan dans les débats sur l’IA. En 2026, l’inférence — l’utilisation de modèles entraînés pour produire du code, rédiger des dissertations ou se représenter en elfes — est devenue un enjeu majeur.
« On dirait que la formation est passée de mode », déclare Matt Kimball , analyste principal des centres de données chez Moor Insights & Strategy. « Tous les directeurs des systèmes d’information ne parlent plus que d’inférence. » Jensen Huang, PDG de Nvidia, s’exprimant lors de la conférence GTC 2026 de l’entreprise, a présenté ce changement comme le « tournant décisif de l’inférence ».
L’une des raisons de ce changement est très simple : les modèles de raisonnement logique (LLM) gagnent en utilité et sont donc de plus en plus utilisés. Par ailleurs, de nombreux modèles disponibles sur le marché sont aujourd’hui des modèles de raisonnement. En réponse à une requête utilisateur, ils effectuent des inférences non pas une seule fois, mais à plusieurs reprises, se répétant sans cesse dans un processus appelé « chaîne de pensée » .
Les modèles de raisonnement génèrent des résultats plus longs, et ceux qui déploient un effort de raisonnement important peuvent produire jusqu’à 20 fois plus de texte que ceux qui déploient un effort faible, voire nul. L’essor de l‘ IA agentive , qui accroît encore la charge de travail mondiale en matière d’inférence, a permis d’effectuer des inférences non seulement en temps réel en réponse à une requête utilisateur, mais aussi 24 h/24 et 7 j/7, de manière autonome, vers un objectif défini par l’utilisateur.

La puce Trainium d’Amazon a été initialement conçue pour l’entraînement de l’IA. Cependant, Amazon Web Services a choisi de scinder l’inférence de l’IA en deux parties : Trainium prend en charge la partie la plus complexe en termes de calcul, tandis que le moteur à l’échelle de la plaquette de Cerebras s’occupe de la partie la plus gourmande en mémoire.
L’explosion de la demande en inférence qui en a résulté a engendré des alliances inattendues entre les géants de la tech. OpenAI et Amazon ont déployé des puces de la taille d’une assiette conçues par Cerebras , malgré la présence des puces Trainium d’Amazon . Nvidia a racheté les talents clés et la propriété intellectuelle de la start-up d’inférence IA Groq dans le cadre d’une transaction controversée d’une valeur de 20 milliards de dollars. Enfin, Anthropic verse plus d’un milliard de dollars par mois à SpaceXAI , concurrent de LLM, pour la location de sa puissance de calcul disponible.
Bien qu’elles puissent paraître similaires, l’entraînement et l’inférence en intelligence artificielle diffèrent sur le plan du calcul. Ces initiatives majeures des géants de la technologie indiquent que, pour répondre à la demande en matière d’inférence, nous aurons besoin d’une architecture matérielle très différente de celle que les experts prévoyaient il y a encore quelques années.
En quoi l’inférence en IA diffère-t-elle de l’entraînement en IA ?
Un LLM non formé est comme un amas de lettres de Scrabble sur une table. Au lieu de lettres isolées, les lettres forment des fragments de mots, appelés jetons. Tout le nécessaire pour écrire presque n’importe quoi est là, mais rien n’a de sens.
L’entraînement d’un modèle permet de trier ce texte en désordre grâce à un jeu de devinettes à grande échelle. Le modèle reçoit un texte réel dont le jeton suivant est masqué et doit prédire ce qui suit. Après chaque tentative, le jeton correct est révélé, puis comparé à la prédiction ; la différence permet de calculer la précision du modèle. Ce jeu ne porte pas sur une seule phrase, mais sur des milliards de passages.
Alors qu’une véritable partie de Scrabble peut se jouer autour d’un paquet de chips et de quelques verres, l’entraînement d’une IA exige une puissance de calcul considérable. Le modèle met à jour ses paramètres par rétropropagation , un processus qui calcule en continu comment chacun des milliards, voire des billions, de paramètres du modèle doit évoluer pour améliorer la prédiction suivante. C’est pourquoi les géants de la tech construisent des centres de données plus vastes que jamais.
Finalement, le créateur du modèle décide que poursuivre l’entraînement n’est pas rentable, et le processus d’estimation s’arrête. La rétropropagation est terminée, les paramètres sont figés et le modèle linéaire mixte (LLM) devient pré-entraîné. Un ajustement fin – un court entraînement sur des données plus restreintes et plus spécifiques – permet d’apporter les dernières modifications, et le modèle est déployé.

L’unité de traitement du langage Groq 3 de Nvidia minimise les déplacements de données en plaçant la mémoire SRAM sur puce et les blocs de calcul dans l’ordre où ils sont nécessaires sur la puce. Nvidia
Vient ensuite l’inférence. Il s’agit du processus d’utilisation du modèle déployé qui, maintenant qu’il a été entraîné, a appris à générer des lettres de Scrabble (jetons) dans un ordre logique.
On pourrait croire que l’inférence en IA est moins gourmande en ressources de calcul, car les calculs de rétropropagation utilisés pour la mise à jour des paramètres sont éliminés. Mais Sudeep Bhoja , fondateur et directeur technique de d-Matrix , une entreprise spécialisée dans le matériel d’inférence , explique que l’inférence soulève de nouveaux défis.
Les modèles sont de nature autorégressive. Autrement dit, la sortie suivante dépend de la précédente. « Pour générer le jeton suivant, il faut donc lire tous les poids et tout le contexte du jeton précédent », explique Bhoja. Le contexte comprend toutes vos requêtes, toutes les réponses du modèle LLM et tous les fichiers que vous téléchargez. Cela représente une grande quantité de données et un traitement important.
Un modèle linéaire à longue portée (LLM) génère sa réponse en deux phases : le préremplissage et le décodage. Le préremplissage consiste pour le modèle à lire une invite. Il traite chaque jeton simultanément, en calculant la relation de chaque jeton avec tous les autres. Cette opération, appelée « attention » , est une caractéristique fondamentale de l’architecture des transformateurs sous-jacente aux LLM modernes.
Elle leur permet de répondre à un mot dans son contexte (phrase, paragraphe et plus large), et non de manière isolée. On peut comparer cela à la disposition des lettres de Scrabble avant une partie. De nombreux joueurs déplacent les lettres pour visualiser leurs combinaisons. L’auto-attention joue un rôle similaire, mais au lieu de déplacer physiquement des lettres, chaque jeton envoie une requête aux autres et reçoit un score indiquant sa pertinence.
Ces requêtes produisent deux types de vecteurs : les clés et les valeurs. Ces vecteurs sont généralement stockés dans un espace de stockage appelé cache KV. Ce n’est pas strictement nécessaire, car un modèle pourrait recalculer ces vecteurs à chaque nouveau jeton généré. Cependant, la quasi-totalité des modèles de langage (LLM) utilisent un cache KV afin de réduire leur charge de calcul. Le cache KV est stocké en mémoire et sert de zone de travail où le LLM peut se référer pour comprendre une conversation. Bien que sa taille initiale soit faible, elle peut atteindre plusieurs dizaines de gigaoctets.
Le préremplissage est un problème facilement divisible et traitable en parallèle. C’est pourquoi les GPU sont devenus l’accélérateur d’IA dominant avec l’essor des LLM. La rastérisation graphique (calcul de la couleur de chaque pixel d’un écran) est également massivement parallélisable, ce qui explique le choix naturel des architectures GPU.

Les puces de Cerebras, conçues à l’échelle d’une plaquette, optimisent la bande passante mémoire en plaçant tous les éléments (mémoire et unités de calcul) côte à côte sur des puces de la taille d’une assiette.
Vient ensuite le décodage. Le modèle génère alors sa réponse jeton par jeton. À chaque étape, il prend le jeton le plus récent, le compare à tous les jetons du cache clé-valeur, utilise cette information pour prédire le jeton suivant et ajoute la clé et la valeur de ce nouveau jeton au cache. Ce processus se répète ensuite séquentiellement, jeton après jeton.
C’est là que la nature autorégressive du modèle nuit à la vitesse d’inférence. La prédiction de chaque jeton nécessite la lecture de l’intégralité du modèle en mémoire, lequel peut contenir des dizaines, voire des centaines de gigaoctets de paramètres (les nombres représentant les valeurs apprises par le modèle lors de l’entraînement). Surtout, il faut ajouter à cela la mémoire requise pour stocker le cache clé-valeur.
Par conséquent, le transfert de toutes ces données en mémoire exige souvent une bande passante supérieure à celle disponible pour le matériel d’inférence. Ainsi, une partie au moins des composants de calcul d’un GPU reste inactive en attendant des données. Des chercheurs ont constaté que les GPU Nvidia H100 exécutant des LLM open-source restent inactifs entre 50 et 80 % du temps.
Le rôle de la mémoire dans l’inférence
Shahriar « Sha » Rabii , ancien responsable de l’ingénierie des semi-conducteurs chez Meta et cofondateur de la startup d’IA Majestic Labs , explique que les processeurs inactifs sont la raison pour laquelle de nombreuses entreprises cherchant à améliorer les performances d’inférence de l’IA se concentrent sur la mémoire. « Avec une approche basée sur le GPU, on finit par surdimensionner considérablement la puissance de calcul et par manquer de mémoire. C’est ce qui explique la forte augmentation de la consommation de mémoire », précise-t-il.
Les entreprises d-Matrix de Bhoja et Majestic Labs de Rabii s’attaquent toutes deux à ce problème de limitation de la mémoire. Cependant, elles envisagent des solutions différentes.
Raptor , l’accélérateur d’IA de deuxième génération de d-Matrix , vise à améliorer les performances d’inférence en minimisant la distance entre le calcul et la mémoire. Dans la plupart des déploiements actuels d’inférence d’IA, les GPU y parviennent en plaçant de la mémoire à large bande passante (HBM) en périphérie du GPU. Chaque HBM est un empilement de puces DRAM interconnectées et reliées au GPU par une interface ultrarapide. Si cette solution est idéale pour l’entraînement, elle présente des limites pour l’inférence, notamment en termes de quantité de mémoire empilable et de bande passante.
L’architecture à puces empilées de d-Matrix

La bande passante mémoire — la vitesse à laquelle les données peuvent être lues de la mémoire vers la logique — constitue un goulot d’étranglement majeur dans l’inférence en IA. La start-up d-Matrix augmente cette bande passante en empilant la puce logique directement sur la mémoire, ici de la DRAM. Ceci permet de multiplier les interconnexions extrêmement courtes. Chris Philpot
Le Raptor de d-Matrix élimine ce goulot d’étranglement en intégrant un accélérateur d’IA sur une puce DRAM. Au lieu d’empiler uniquement de la mémoire, d-Matrix empile mémoire et puissance de calcul. Selon Bhoja, cela réduit la distance parcourue par les données à « des micromètres au lieu de millimètres ». À l’instar de la construction d’un gratte-ciel, cette verticalité permet d’en faire plus dans un même espace.
Majestic adopte une approche différente. Au lieu de chercher à minimiser la distance parcourue par les données entre le calcul et la mémoire, l’entreprise se concentre sur l’amélioration de l’interface mémoire afin d’intégrer des pistes plus longues tout en maintenant une bande passante élevée. Ces pistes plus longues permettent à Majestic de connecter des piles de mémoire non directement adjacentes au GPU, s’affranchissant ainsi des contraintes d’espace liées à la mémoire HBM.
« Une interface mémoire ne peut fonctionner que sur une très courte distance physique. Dans le cas de la mémoire HBM, cette distance est de 2 ou 3 millimètres maximum. Il existe une zone périphérique, le seul endroit où l’on peut placer de la mémoire HBM », explique Rabii.
Majestic affirme que son interface mémoire peut transmettre des bits sur une distance d’environ un mètre. Ce résultat est obtenu grâce à une liaison cuivre propriétaire et une puce d’agrégation mémoire qui coordonne les données. « L’agrégateur constitue le point de terminaison de l’interface haut débit et permet de distribuer les données à un très grand nombre de puces DRAM standard », explique Rabii. De ce fait, Majestic peut prendre en charge jusqu’à 128 téraoctets de mémoire DRAM dans une seule baie serveur, soit une augmentation significative par rapport à la baie GB300 NVL72 de Nvidia , qui embarque environ 20 To de HBM3E .
Architecture d’agrégation de mémoire de Majestic Labs

Majestic Labs prévoit de satisfaire les besoins en mémoire de l’IA grâce à une interconnexion propriétaire et une puce d’agrégation de mémoire, permettant à un seul rack d’accéder à jusqu’à 128 téraoctets de mémoire DRAM bon marché. Chris Philpot
d-Matrix et Majestic ont un point commun : au lieu de la mémoire HBM, ils utilisent tous deux de la DRAM standard. Il s’agit du type de mémoire informatique le plus répandu au monde ; on le retrouve dans tous les appareils, des smartphones aux voitures. Selon l’analyste Jim Handy, la mémoire HBM coûte deux à trois fois plus cher que la DRAM. d-Matrix et Majestic ont opté pour la DRAM notamment en raison de cet avantage de prix. Cependant, les partisans de la mémoire HBM, parmi lesquels figurent des géants de la mémoire comme Samsung et SK Hynix , ne restent pas inactifs.
La HBM4, la dernière version de la mémoire HBM, est désormais en production et sera utilisée par le GPU Vera Rubin de Nvidia , dont la sortie est prévue pour le second semestre 2026. Hoshik Kim , responsable de la recherche sur les systèmes de mémoire chez SK Hynix , affirme que la HBM4 « va définitivement lever les goulots d’étranglement de la mémoire qui limitent aujourd’hui l’inférence IA » en doublant la bande passante maximale de la mémoire HBM et en augmentant la quantité de mémoire HBM par pile.
Combinaison de puces pour une inférence plus rapide
Les géants du secteur, Nvidia et Amazon, misent sur une approche collaborative. Les GPU de Nvidia et les accélérateurs d’entraînement Trainium d’Amazon restent performants pour une partie du travail d’inférence : la phase de préremplissage, où sont calculées toutes les clés et valeurs de contexte. Mais pour accélérer le décodage, c’est-à-dire la génération de nouveaux jetons, ils se tournent vers des architectures innovantes, axées sur la mémoire, proposées par des acteurs plus modestes.
Dans le cas de Nvidia, le plus petit acteur était Groq (à ne pas confondre avec Grok, la famille de LLM entraînés par SpaceXAI). Fin 2025, Nvidia a acquis la propriété intellectuelle et recruté des talents chez Groq. Trois mois plus tard, lors de la conférence GTC 2026 de Nvidia, Jensen Huang a dévoilé l’unité de traitement du langage ( LPU ) Nvidia Groq 3. L’architecture de Groq repose sur une mémoire – en l’occurrence, de la SRAM – intégrée directement à la puce.
À moins d’être architecte de puces ou joueur PC passionné, vous n’avez probablement jamais prêté attention à la SRAM. La SRAM a l’avantage d’être étroitement intégrée à l’architecture de la puce (elle se trouve sur la même puce de silicium que le processeur), mais elle a l’inconvénient d’être moins dense et plus coûteuse que la DRAM. La plupart des puces ne contiennent que quelques dizaines de mégaoctets de SRAM. Cependant, l’inférence en intelligence artificielle a suscité un regain d’intérêt pour la SRAM, permettant de rapprocher les poids des modèles stockés en mémoire des calculs.
Ian Buck , vice-président et directeur général du calcul hyperscale et haute performance chez Nvidia , explique que le LPU a des priorités bien différentes de celles des GPU de l’entreprise. Le LPU dispose d’une puissance de calcul brute nettement inférieure à celle d’un GPU standard, mais il bénéficie de 500 mégaoctets de SRAM intégrée, connectée directement à ses unités de calcul en virgule flottante. « L’avantage réside dans la bande passante mémoire. Le LPU offre une bande passante mémoire sept fois supérieure à celle du GPU », précise-t-il.
L’association du GPU Rubin et du LPU Groq permet d’accélérer le préremplissage et le décodage, offrant ainsi le meilleur des deux mondes, en théorie. « Nous effectuons tous les calculs d’attention et le traitement du contexte sur le rack GPU Vera Rubin », explique Buck. « Pour tous les calculs complexes, notamment les multiplications matricielles, nous les réalisons sur le LPU. » L’entreprise intègre 256 LPU dans le Groq 3 LPX, un système de la taille d’une baie de centre de données.
L’approche à deux puces de Nvidia pour l’inférence

Nvidia prévoit également de répartir la charge de travail d’inférence sur deux puces. Les GPU Rubin les plus récents de la société prendront en charge la phase de préremplissage, gourmande en calculs, tandis que l’unité de traitement du langage (LPU) Groq 3, dotée d’une importante mémoire SRAM intégrée, gérera la phase de décodage, consommatrice de mémoire. Chris Philpot
De son côté, Amazon Web Services (AWS) a conclu un accord avec Cerebras pour associer l’accélérateur Trainium à la plateforme WSE-3 (Wafer-Scale Engine 3) de Cerebras . Cerebras adopte une approche similaire à celle de Groq, mais à une échelle bien plus importante. WSE-3 transforme une plaquette de silicium entière en une seule puce contenant plus de 4 000 milliards de transistors.
La conception ne prévoit pas de connexion à une mémoire externe ; au lieu de cela, 44 gigaoctets de SRAM sont gravés dans chaque plaquette. « Nous stockons les pondérations [du modèle] dans la SRAM », explique James Wang , ancien directeur du marketing produit chez Cerebras, désormais chez SpaceXAI. « Cela représente donc facilement entre 40 et 80 milliards de paramètres que nous pouvons prendre en charge sur une seule puce. »
Amazon prévoit d’utiliser les puces AWS Trainium pour le préremplissage et Cerebras pour le décodage. Cependant, les puces Cerebras peuvent également fonctionner seules pour l’inférence. OpenAI a déployé WSE-3 pour alimenter GPT-5.3-Codex-Spark , une variante de son mode de codage, capable de produire plus de 1 000 jetons par seconde. À titre de comparaison, le déploiement standard de GPT-5.4 d’OpenAI produit entre 50 et 125 jetons par seconde.
La stratégie d’inférence à deux puces d’Amazon Web Services

Amazon Web Services a combiné ses puces Trainium avec le moteur à l’échelle de la plaquette (WSE) de Cerebras, de la taille d’une assiette, pour traiter différentes étapes de l’inférence en intelligence artificielle. Les puces Trainium gèrent la phase de préremplissage, gourmande en calculs, tandis que le WSE, avec sa mémoire SRAM intégrée entrelacée, prend en charge la phase de décodage, limitée par la bande passante mémoire. Chris Philpot
Cerebras peut également gérer le préremplissage sans déplacer la charge de travail vers des puces spécialisées distinctes. Pour ce faire, il met en réseau plusieurs puces WSE-3 afin de former un pool de mémoire unique. Cerebras a démontré sa capacité à traiter des modèles comportant jusqu’à 1 000 paramètres, comme Kimi 2.6 de Moonshot AI, bien que Wang affirme que « l’architecture ne présente aucune limitation intrinsèque quant au nombre de paramètres qu’elle peut gérer ».
Malgré ces divergences stratégiques, Nvidia et AWS semblent s’accorder sur le fait que l’avenir de l’inférence en IA reposera sur une approche systémique combinant différents types de puces pour s’attaquer aux problèmes les plus complexes. Autrement dit, comme le dit Buck : « Pour réaliser une inférence en IA moderne, il faut toutes les puces. »
Apprendre à faire plus avec moins (bits)
Nvidia est devenue l’entreprise technologique la plus valorisée au monde grâce à la conception des GPU les plus recherchés. Cependant, l’attention ne se porte pas uniquement sur l’amélioration du matériel d’inférence IA. Les chercheurs en IA s’efforcent également d’optimiser conjointement les logiciels et le matériel LLM afin d’exploiter au mieux les composants de mémoire et de calcul.
La plupart des ordinateurs stockent les nombres au format 32 bits ou 64 bits. Ce format détermine le nombre de bits disponibles pour représenter un nombre. Si le nombre de bits disponibles est insuffisant, le nombre ne peut être stocké sans perte d’information. La qualité d’un modèle linéaire à longue portée (MLL) bénéficie de formats numériques plus précis, mais cela pose un problème pour les performances d’inférence. Des nombres plus précis ont un coût : les bits qui les décrivent occupent plus d’espace mémoire et nécessitent davantage de ressources (puce et énergie) pour le calcul.
Gilles Backhus , cofondateur de Tensordyne , une entreprise spécialisée dans l’accélération de l’IA , explique que cela crée une tension entre la taille du modèle et la précision des nombres. « Préféreriez-vous un modèle de taille x fonctionnant en 8 bits, ou un modèle deux fois plus volumineux fonctionnant en 4 bits ? » La taille des deux modèles sera sensiblement la même en termes de mémoire et de puissance de calcul, « mais l’approche 4 bits offre en quelque sorte deux fois plus de synapses. Et on commence à comprendre que [cette approche] est vraiment avantageuse. »
Le processus de conversion d’un modèle linéaire généralisé (MLG) d’un format numérique précis vers un format moins précis est appelé quantification et est utilisé depuis plusieurs années. Cependant, les chercheurs explorent de nouvelles méthodes pour quantifier les modèles tout en préservant une grande partie de leur qualité.
Nvidia a récemment créé un nouveau format numérique 4 bits, NVFP4 , à cet effet. AMD , Intel et Qualcomm, quant à eux, se sont ralliés à un format numérique 4 bits concurrent, MXFP4 , auquel Nvidia a également contribué. « C’est le monde obscur de l’IA », déclare Buck, de Nvidia. Lorsque Nvidia a quantifié DeepSeek-R1 de FP8 à NVFP4, les scores sur sept benchmarks majeurs ont baissé de moins de 1 % tandis que les performances ont triplé , affirme l’entreprise.
La quantification n’est probablement que la partie émergée de l’iceberg, car les chercheurs en IA et les start-ups explorent une diversité de possibilités d’optimisation, dont certaines pourraient transformer radicalement les puces utilisées dans le matériel d’inférence de l’IA.

L’approche unique de Tensordyne en matière d’inférence IA combine un format numérique logarithmique avec un matériel sur mesure intégré à la puce Napier de l’entreprise.
Tensordyne devrait accélérer l’inférence IA grâce à un système de numération logarithmique exploitant une propriété fondamentale des logarithmes : le logarithme de A multiplié par B est égal au logarithme de A plus le logarithme de B. Ainsi, le stockage des nombres sous forme d’exposants permet à la puce d’effectuer des additions là où elle effectuerait normalement des multiplications. Ceci est crucial en électronique, car les circuits multiplicateurs consomment davantage d’énergie et occupent une surface de puce plus importante que les additionneurs. Tensordyne affirme que son matériel à l’échelle d’un rack, baptisé Napier, peut produire jusqu’à 1 300 jetons par seconde et par utilisateur, tout en consommant dix fois moins d’énergie que le matériel Nvidia comparable.
Etched , une start-up basée à San Jose, en Californie, conçoit des accélérateurs d’IA qui intègrent directement dans le silicium l’architecture des transformateurs utilisée par les LLM. Plutôt que de développer des GPU classiques, l’entreprise intègre les connexions nécessaires aux calculs efficaces des transformateurs directement dans sa puce. Celle-ci est ainsi moins flexible, mais plus performante pour les tâches les plus courantes des LLM actuels.
L’entreprise affirme que son premier accélérateur d’IA, Sohu , peut exécuter le modèle Llama 70B de Meta à une vitesse impressionnante de 500 000 jetons par seconde. Cependant, cette approche implique qu’il ne pourra pas exécuter les LLM qui s’écartent de l’architecture de transformateur classique.
L’avenir nous dira si ces idées porteront leurs fruits. Etched a livré son premier rack en août. Tensordyne prévoit que son premier matériel sera disponible en 2027. Quoi qu’il en soit, ces start-ups illustrent comment la demande croissante de performances d’inférence alimente des idées novatrices.
L’inférence est à la portée de tous.
La grande variété d’approches en matière d’accélération de l’inférence IA (empilement de calculs sur la mémoire, extension des interfaces de millimètres à mètres, utilisation d’une plaquette de silicium entière pour la SRAM, compression des modèles sur 4 bits) soulève une question : laquelle va gagner et laquelle va perdre ?
Mais, selon les experts, ce n’est probablement pas la bonne question. La demande en IA est actuellement insatiable et, bien que la crainte d’une bulle spéculative plane sur le secteur, elle n’a pas encore freiné sa croissance.
Au contraire, Kimball de Moor Insights & Strategy estime que l’inférence pourrait engendrer une forte demande en matériel d’IA à long terme, car il est impossible de prévoir où cette demande s’arrêtera. « On pourrait ajouter un million d’agents à une organisation », explique-t-il. « Ces systèmes fonctionnent 24 heures sur 24 ; contrairement à nous, ils ne s’arrêtent pas à 17 h. »
Si l’inférence par IA conserve l’intérêt escompté par Kimball, son évolution suivra probablement la même trajectoire que celle du processeur. Ce dernier n’a pas progressé sur un seul axe, mais simultanément sur plusieurs fronts . Dès que la miniaturisation des transistors a ralenti, les innovations en matière d’architecture des puces et des systèmes se sont multipliées. La liste des innovations qui ont permis l’avènement de l’informatique personnelle omniprésente et puissante d’aujourd’hui pourrait remplir des dizaines de livres.
D’ici quelques décennies, l’histoire de l’innovation en matière d’inférence en IA révélera une profondeur similaire.