Des ordinateurs semblables à des cerveaux pour s'attaquer aux limites extrêmes
infohightech ·
La start-up BrainChip annonce une nouvelle conception de puce pour une inférence d'IA au niveau du milliwatt. L'Akida Pico de BrainChip pourrait être utilisé avec son architecture de modèle d'IA dans des appareils tels que des montres intelligentes.
L'informatique neuromorphique s'inspire du cerveau, et Steven Brightfield, directeur marketing de la startup BrainChip basée à Sydney , affirme que cela la rend parfaite pour une utilisation dans des appareils alimentés par batterie effectuant du traitement d'IA.
« La raison en est l’évolution », explique Steven Brightfield. « Notre cerveau avait un certain bilan énergétique. » De même, le marché visé par BrainChip est limité en termes d’énergie. « Vous avez une batterie et la quantité d’énergie qui sort de la batterie est limitée pour alimenter l’IA que vous utilisez. »
Aujourd'hui, BrainChip a annoncé que sa puce Akida Pico est désormais disponible. Akida Pico, qui a été développée pour être utilisée dans des appareils à faible consommation d'énergie, est une version simplifiée et miniaturisée de la conception Akida de BrainChip , introduite l'année dernière. Akida Pico consomme 1 milliwatt d'énergie, voire moins selon l'application.
La conception de la puce cible les périphériques extrêmes, qui sont composés de petits appareils utilisateur tels que les téléphones portables, les objets connectés et les appareils intelligents qui ont généralement de graves limitations en termes de puissance et de capacités de communication sans fil. Akida Pico rejoint des appareils neuromorphiques similaires sur le marché conçus pour les périphériques, tels que la puce T1 d' Innatera , annoncée plus tôt cette année, et Xylo de SynSense , annoncée en juillet 2023.
Les pics neuronaux permettent d'économiser de l'énergie
Les dispositifs informatiques neuromorphiques imitent la nature pulsée du cerveau. Au lieu des portes logiques traditionnelles, des unités de calcul, appelées « neurones », envoient des impulsions électriques, appelées « pics »,pour communiquer entre eux. Si un pic atteint un certain seuil lorsqu'il touche un autre neurone, celui-ci est activé à son tour. Différents neurones peuvent créer des pics indépendamment d'une horloge globale, ce qui entraîne un fonctionnement hautement parallèle.
L’un des points forts de cette approche est que l’énergie n’est consommée que lorsqu’il y a des pics. Dans un modèle d’apprentissage profond classique , chaque neurone artificiel effectue simplement une opération sur ses entrées : il n’a pas d’état interne. Dans une architecture de réseau neuronal à pics, en plus de traiter les entrées, un neurone a un état interne.
Cela signifie que la sortie peut dépendre non seulement des entrées actuelles, mais aussi de l’historique des entrées passées, explique Mike Davies , directeur du laboratoire d’informatique neuromorphique chez Intel . Ces neurones peuvent choisir de ne rien produire si, par exemple, l’entrée n’a pas suffisamment changé par rapport aux entrées précédentes, économisant ainsi de l’énergie.
« La technologie neuromorphique excelle vraiment dans le traitement des flux de signaux lorsque vous ne pouvez pas vous permettre d’attendre pour collecter l’intégralité du flux de données, puis de le traiter de manière différée et par lots. Elle est adaptée à un mode de fonctionnement en streaming et en temps réel », explique Mike Davies. L’équipe de Davies a récemment publié un résultat montrant que la consommation d’énergie de sa puce Loihi était un millième de celle d’un GPU pour les cas d’utilisation en streaming.
Akida Pico comprend son moteur de traitement neuronal, ainsi que des unités SRAM de traitement des événements et de stockage du poids du modèle, des unités de mémoire directe pour la conversion et la configuration des pics, et des périphériques en option. Steven Brightfield explique que dans certains appareils, tels que les détecteurs simples, la puce peut être utilisée comme un appareil autonome, sans microcontrôleur ni aucun autre traitement externe. Pour d'autres cas d'utilisation nécessitant un traitement supplémentaire sur l'appareil, elle peut être combinée à un microcontrôleur, à un processeur ou à toute autre unité de traitement.
La conception Akida Pico de BrainChip comprend une version miniaturisée de leur moteur de traitement neuromorphique, adapté aux petits appareils fonctionnant sur batterie.
BrainChip a également travaillé au développement d'architectures de modèles d'IA optimisées pour une consommation d'énergie minimale dans leurs appareils. Ils ont présenté leurs techniques avec une application qui détecte les mots-clés dans la parole. Cela est utile pour l'assistance vocale comme Alexa d'Amazon, qui attend que les mots-clés « Hello, Alexa » s'activent.
L’équipe de BrainChip a utilisé l’architecture de son modèle récemment développé pour réduire la consommation d’énergie à un cinquième de celle consommée par les modèles traditionnels fonctionnant sur un microprocesseur conventionnel, comme le montre leur simulateur. « Je pense qu’Amazon dépense 200 millions de dollars par an en services de cloud computing pour réveiller Alexa », explique Steven Brightfield. « Ils le font en utilisant un microcontrôleur et une unité de traitement neuronal (NPU), et cela consomme quand même des centaines de milliwatts d’énergie. » Si la solution de BrainChip permet effectivement les économies d’énergie annoncées pour chaque appareil, l’effet serait significatif.
Dans une deuxième démonstration, ils ont utilisé un modèle d’apprentissage automatique similaire pour démontrer la suppression du bruit audio, à utiliser dans les prothèses auditives ou les écouteurs antibruit.
Jusqu'à présent, les ordinateurs neuromorphiques n'ont pas trouvé d'applications commerciales à grande échelle, et il reste à voir si ces appareils miniatures de pointe vont décoller, en partie à cause des capacités réduites de ces applications d'IA à faible consommation. « Si vous êtes au niveau du tout petit réseau neuronal, la quantité de magie que vous pouvez apporter à un problème est limitée », explique Davies d'Intel.
Steven Brightfield, de BrainChip, espère néanmoins que les applications possibles sont là. « Il peut s’agir du réveil vocal, de la réduction du bruit dans vos écouteurs, de vos lunettes de réalité augmentée ou de vos appareils auditifs. Ce sont tous les cas d’utilisation que nous pensons ciblés. Nous pensons également qu’il existe des cas d’utilisation dont nous ne savons pas si quelqu’un va les inventer. »