Des chercheurs du Riccio College of Engineering de l’université du Massachusetts à Amherst ont démontré qu’en repensant à la fois le matériel et l’algorithme, il est possible de rendre plus efficaces les applications d’IA sur les appareils de périphérie. Comme preuve de concept, leur système a atteint 95,24 % de précision dans l’identification de la langue tout en réduisant de 90 % les ressources de calcul — la précision la plus élevée jamais rapportée pour un système de ce type.
L’IA est partout aujourd’hui. Elle est intégrée dans les appareils de périphérie — ainsi nommés parce qu’ils fonctionnent à la périphérie d’un réseau, en traitant les données localement au lieu de dépendre de centres de données distants — comme les smartphones, les caméras, les outils de navigation et de gestion du trafic, ainsi que les plateformes de divertissement et d’achat.
Mais l’expansion de l’IA dans notre vie quotidienne entraîne des exigences élevées en énergie et en matériel. C’est aussi difficile pour les appareils de périphérie, notamment les centres domotiques et les interfaces embarquées des voitures, car leur capacité de calcul est limitée. Il serait pratique que chaque appareil possède la puissance de traitement d’un centre de données, mais cela n’est pas réaliste.
Une partie des besoins en calcul, en énergie et en matériel concerne le traitement, qui peut être lent, provoquer des problèmes de chaleur et épuiser la batterie des appareils de périphérie. Prenons le langage : nous, humains, interagissons avec l’IA, directement ou indirectement, pour accomplir des tâches toujours plus nombreuses, ce qui signifie que beaucoup de ces applications doivent traiter le langage humain, que ce soit pour reconnaître, traduire ou comprendre la parole ou le texte. Même le simple fait de déterminer quelle langue est utilisée — anglais, français, arabe, etc. — exige un traitement qui peut mettre à rude épreuve les petits appareils alimentés par batterie.
Pour faciliter le traitement sur les appareils de périphérie, Qiangfei Xia, professeur titulaire de la chaire Dev and Linda Gupta en génie électrique et informatique et directeur du Nanodevices and Integrated Systems Lab au Riccio College of Engineering de l’UMass, a collaboré avec des collègues du monde universitaire et de l’industrie pour repenser non seulement l’algorithme, mais aussi le matériel.
Les approches classiques implémentent généralement les algorithmes d’IA sur du matériel existant ; en revanche, l’équipe de Xia a conçu l’algorithme en même temps que le matériel, permettant à chacun de tirer parti des forces de l’autre.
La solution de l’équipe exploite la puissance des algorithmes de calcul hyperdimensionnel (HDC) et du matériel de calcul analogique en mémoire (IMC) pour permettre des applications d’IA de périphérie, notamment l’identification de la langue.
Le HDC est une forme d’IA inspirée du cerveau qui représente l’information à l’aide de grands motifs mathématiques plutôt qu’en travaillant avec des nombres précis. Ces motifs permettent d’effectuer certaines tâches d’IA avec des calculs plus simples et plus efficaces.
Le matériel IMC — plus précisément un réseau de memristors, composants électriques qui stockent et traitent les données au même endroit physique, réduisant ainsi la nécessité de déplacer les données entre des unités de mémoire et de traitement séparées — permet de déployer des algorithmes basés sur le HDC sur des appareils de périphérie.
La plateforme, indique Xia, peut à la fois encoder les caractéristiques linguistiques et traiter l’identification de la langue. « La partie encodage exploite le caractère aléatoire intrinsèque des dispositifs memristifs, considéré par beaucoup comme un inconvénient de cette technologie de dispositifs », dit-il. En substance, les chercheurs ont transformé un défaut en atout : la variabilité naturelle de la puce memristive offre un caractère aléatoire utile pour un encodage efficace des données.
Le système a démontré une précision de 95,24 % dans l’identification de la langue, avec une réduction de 90 % des ressources de calcul — la précision la plus élevée jamais rapportée pour une implémentation HDC sur une plateforme matérielle émergente.
C’est une évolution naturelle des travaux menés précédemment dans le laboratoire de Xia. « La recherche scientifique suit une spirale ascendante », explique-t-il. « Chaque itération s’appuie sur les idées précédentes, conduisant à une compréhension plus profonde et à de plus grandes avancées scientifiques. »
« Ce travail représente une autre étape importante dans notre recherche sur les memristors », ajoute Xia. « Le système sur puce s’appuie sur nos recherches précédentes, couvrant les dispositifs memristifs analogiques, l’intégration de circuits memristor-CMOS, les matrices memristives en croix et les applications d’intelligence artificielle. »
L’idée a vu le jour en 2019, raconte Xia, lorsque Daniel Belkin, alors chercheur de premier cycle à l’UMass, a commencé à étudier une petite matrice memristive en croix. Mais développer l’approche a demandé du temps et des expérimentations. « Ce n’est que lorsque la technologie a progressé jusqu’au niveau du système sur puce que des démonstrations pratiques de traitement du langage sont devenues possibles », souligne Xia.
Ce projet n’est qu’un exemple parmi une série d’applications des puces memristives à l’IA, note-t-il. « La même puce a été utilisée pour le traitement des signaux RF et la détection intelligente. » Un autre article doit paraître sur les applications des puces memristives pour les récepteurs sans fil, a-t-il dit.
Les applications futures de ces recherches pourraient également inclure le traitement des langues parlées. « Nous avons démontré le traitement du langage écrit dans ces travaux ; nous pensons qu’il pourra aussi traiter le langage parlé, ouvrant la voie à un traitement du langage naturel économe en énergie sur des appareils de périphérie tels que les téléphones, les enceintes, les voitures, les robots, etc. », indique Xia.
Les collaborateurs de Xia pour ce projet incluent Yi Huang, ancien chercheur postdoctoral à l’UMass, désormais professeur adjoint à l’université du Tennessee à Knoxville ; Alireza Jaberi Rad, doctorant à l’UMass ; Belkin, ancien étudiant ; Ning Ge de TetraMem Inc. ; J. Joshua Yang, de TetraMem et de l’université de Californie du Sud à Los Angeles ; et Miao Hu de TetraMem.
« La nature interdisciplinaire de ces travaux suggère que le développement d’un nouveau matériel d’IA exige des efforts collaboratifs entre le monde universitaire et l’industrie, ainsi qu’une expertise complémentaire à tous les niveaux de la pile : dispositif, circuits, algorithme, architecture et système », déclare Xia.
Article : Hyperdimensional in-memory computing with analogue memristive crossbar arrays – Journal : Nature Communications – Méthode : Experimental study – DOI : Lien vers l’étude
Source : UMASS
