La puce exposée lors de l’événement MARS d’Amazon – le long des robots de déchiquetage de karaté et des bases martiennes – est beaucoup plus efficace que les puces en silicium classiques.
Récemment, par une matinée éblouissante à Palm Springs, en Californie, Vivienne Sze s’est rendue sur une petite scène pour donner la présentation peut-être la plus nerveuse de sa carrière.
Elle connaissait le sujet à fond. Elle devait parler au public des puces en cours de développement dans son laboratoire au MIT, qui promettent d’apporter une intelligence artificielle puissante à une multitude d’appareils dont la puissance est limitée, hors de portée des vastes centres de données où se font la plupart des calculs d’IA. Cependant, l’événement – et le public – a donné à Vivienne Sze une pause.
Le cadre était MARS, une conférence d’élite sur invitation où des robots se promènent (ou volent) dans une station balnéaire de luxe, en compagnie de scientifiques et d’auteurs de science-fiction renommés. Seuls quelques chercheurs sont invités à donner des conférences techniques, et les séances se veulent à la fois impressionnantes et éclairantes. La foule, quant à elle, se composait d’une centaine de chercheurs, de PDG et d’entrepreneurs parmi les plus importants du monde. MARS est animé par nul autre que le fondateur et président d’Amazon, Jeff Bezos, qui était au premier rang.
D’autres intervenants lors de MARS ont présenté un robot de découpe de type karaté, des bourdons qui battent comme de gros insectes étrangement silencieux, et même des plans optimistes pour les colonies martiennes. Les puces de Vivienne Sze peuvent sembler plus modestes ; à l’œil nu, elles ne se distinguent pas des puces que l’on trouve dans tout appareil électronique. Mais elles sont sans doute beaucoup plus importantes que tout ce qui est présenté à l’événement.
Nouvelles capacités
Les puces nouvellement conçues, comme celles qui sont en cours de développement dans le laboratoire de Vivienne Sze, pourraient être cruciales pour les progrès futurs de l’IA, y compris les drones et les robots que l’on trouve à MARS. Jusqu’à présent, les logiciels d’IA fonctionnaient en grande partie sur des puces graphiques, mais un nouveau matériel pourrait rendre les algorithmes d’IA plus puissants, ce qui débloquerait de nouvelles applications. De nouvelles puces AI pourraient rendre les robots d’entrepôt plus courants ou permettre aux smartphones de créer des scènes de réalité augmentée photo-réalistes.
Les puces de Vivienne Sze sont à la fois extrêmement efficaces et flexibles dans leur conception, ce qui est crucial pour un domaine qui évolue incroyablement rapidement.
Les micropuces sont conçues pour tirer davantage parti des algorithmes d’intelligence artificielle qui ont déjà mis le monde à l’envers. Et ce faisant, elles peuvent inspirer ces algorithmes eux-mêmes à évoluer. « Nous avons besoin d’un nouveau matériel parce que la loi de Moore a ralenti « , explique Vivienne Sze, faisant référence à l’axiome inventé par Gordon Moore, cofondateur d’Intel, selon lequel le nombre de transistors sur une puce doublera environ tous les 18 mois, ce qui entraînera une augmentation proportionnelle de la puissance des ordinateurs.
Cette loi se heurte de plus en plus aux limites physiques des composants techniques à l’échelle atomique. Et elle suscite un nouvel intérêt pour les architectures et approches alternatives de l’informatique.
Les enjeux élevés liés à l’investissement dans les puces d’IA de la prochaine génération et au maintien de la domination américaine dans la fabrication de puces ne sont pas perdus pour autant pour le gouvernement américain. Les puces de Vivienne Sze sont mises au point grâce au financement d’un programme de la Defense Advanced Research Projects Agency (DARPA) destiné à aider au développement de nouvelles conceptions de puces d’IA (voir « Les idées de l’IA en dehors de la Chine pour garder les États-Unis en tête »).
Mais l’innovation dans la fabrication de puces a été stimulée principalement par l’émergence de l’apprentissage profond (deep learning), un moyen très puissant pour les machines d’apprendre à effectuer des tâches utiles. Au lieu de donner à un ordinateur un ensemble de règles à suivre, une machine se programme elle-même.
Les données d’entraînement/formation (training) sont introduites dans un grand réseau neuronal artificiel simulé, qui est ensuite modifié de manière à produire le résultat souhaité. Avec suffisamment de formation, un système d’apprentissage profond peut trouver des modèles subtils et abstraits dans les données. Cette technique est appliquée à un nombre sans cesse croissant de tâches pratiques, de la reconnaissance faciale sur les smartphones à la prédiction des maladies à partir d’images médicales.
La nouvelle course aux puces
L’apprentissage profond ne dépend pas autant de la loi de Moore. Les réseaux neuronaux exécutent de nombreux calculs mathématiques en parallèle, de sorte qu’ils fonctionnent beaucoup plus efficacement sur les puces graphiques spécialisées des jeux vidéo qui effectuent des calculs parallèles pour le rendu d’images 3D. Mais les micropuces conçues spécialement pour les calculs qui sous-tendent l’apprentissage profond devraient être encore plus puissantes.
Le potentiel des nouvelles architectures de puces pour améliorer l’intelligence artificielle a suscité un niveau d’activité entrepreneuriale que l’industrie des puces n’avait pas vu depuis des décennies (voir « La course aux cerveaux de silicium de l’intelligence artificielle » et « La Chine n’a jamais eu une véritable industrie des puces. Fabriquer des puces AI pourrait changer cela »).
Les grandes entreprises technologiques qui espèrent exploiter et commercialiser l’intelligence artificielle, notamment Google, Microsoft et Amazon, travaillent toutes sur leurs propres puces d’apprentissage profond. De nombreuses petites entreprises développent également de nouvelles puces. « Il est impossible de garder une trace de toutes les entreprises qui sautent dans l’espace des puces IA « , explique Mike Delmer, analyste en micropuce au sein du Linley Group, une firme d’analystes. « Je ne plaisante pas en disant qu’on en apprend un nouveau presque chaque semaine. »
La vraie opportunité, dit Vivienne Sze, n’est pas de construire les puces d’apprentissage profond les plus puissantes qui soient. L’efficacité énergétique est importante parce que l’IA doit également fonctionner hors de portée des grands centres de données, ce qui signifie qu’il ne faut compter que sur la puissance disponible sur l’appareil lui-même pour fonctionner. C’est ce qu’on appelle opérer sur « le bord » (at the edge)
« L’intelligence artificielle sera partout et il sera extrêmement important de trouver des moyens de rendre les choses plus efficaces sur le plan énergétique « , déclare Naveen Rao, vice-présidente du groupe des produits d’intelligence artificielle chez Intel.
Par exemple, le matériel de Vivienne Sze est plus efficace en partie parce qu’il réduit physiquement le goulot d’étranglement entre l’endroit où les données sont stockées et l’endroit où elles sont analysées, mais aussi parce qu’il utilise des systèmes intelligents pour réutiliser les données. Avant de rejoindre le MIT, Vivienne Sze a été le pionnier de cette approche pour améliorer l’efficacité de la compression vidéo chez Texas Instruments.
Pour un domaine en évolution rapide comme l’apprentissage profond, le défi pour ceux qui travaillent sur des puces AI est de s’assurer qu’elles sont suffisamment flexibles pour s’adapter à toutes les applications. Il est facile de concevoir une puce super-efficace capable de faire une seule chose, mais un tel produit deviendra rapidement obsolète.
La puce de Vivienne Sze s’appelle Eyeriss. Développée en collaboration avec Joel Emer, chercheur scientifique chez Nvidia et professeur au MIT, elle a été testée avec un certain nombre de processeurs standard pour voir comment elle gère une gamme d’algorithmes d’apprentissage profond différents. En équilibrant l’efficacité et la flexibilité, la nouvelle puce atteint des performances 10, voire 1000 fois plus efficaces que le matériel existant, selon un document publié en ligne l’an dernier.
Des puces IA plus simples ont déjà un impact majeur. Les smartphones haut de gamme incluent déjà des puces optimisées pour l’exécution d’algorithmes d’apprentissage profond pour la reconnaissance vocale et d’images. Des puces plus efficaces pourraient permettre à ces appareils d’exécuter un code AI plus puissant avec de meilleures capacités. Les voitures autonomes ont également besoin de puissantes puces informatiques d’IA, car la plupart des prototypes reposent actuellement sur un coffre rempli d’ordinateurs.
Naveen Rao dit que les puces du MIT sont prometteuses, mais de nombreux facteurs détermineront le succès d’une nouvelle architecture matérielle. L’un des facteurs les plus importants, dit-il, est le développement d’un logiciel qui permet aux programmeurs d’exécuter du code dessus. « Rendre quelque chose utilisable du point de vue du compilateur est probablement le plus grand obstacle à l’adoption « , dit-il.
En fait, le laboratoire de Vivienne Sze explore également des moyens de concevoir des logiciels afin qu’ils exploitent mieux les propriétés des puces informatiques existantes. Et ce travail va au-delà de l’apprentissage profond.
En collaboration avec Sertac Karaman, du Département d’aéronautique et d’astronautique du MIT, Vivienne Sze a mis au point une puce de faible puissance appelée Navion, qui permet de cartographier et de naviguer en 3D de manière extrêmement efficace, pour une utilisation sur un petit drone. La conception de la puce pour exploiter le comportement des algorithmes axés sur la navigation, et la conception de l’algorithme pour tirer le meilleur parti possible d’une puce personnalisée, ont joué un rôle crucial dans cet effort. Avec le travail sur l’apprentissage en profondeur, Navion reflète la façon dont les logiciels et le matériel d’IA commencent maintenant à évoluer en symbiose.
Les puces de Vivienne Sze n’attirent peut-être pas autant l’attention qu’un bourdon battant, mais le fait qu’elles aient été présentées à MARS montre à quel point sa technologie – et plus généralement son innovation dans le silicium – sera importante pour l’avenir de l’IA. Après sa présentation, dit Vivienne Sze, d’autres conférenciers de MARS ont exprimé le souhait d’en savoir plus. « Les gens ont trouvé beaucoup de cas d’utilisation importants, dit-elle.
En d’autres termes, attendez-vous à ce que les robots et les drones qui attireront l’attention lors de la prochaine conférence MARS viennent avec quelque chose d’assez spécial caché à l’intérieur.
