Pour la première fois, un réseau neuronal physique a réussi à apprendre et à se souvenir ‘à la volée’, d’une manière inspirée et similaire à celle dont fonctionnent les neurones du cerveau. Cette découverte ouvre la voie au développement d’une intelligence machine efficace et à faible consommation d’énergie pour des tâches d’apprentissage et de mémoire plus complexes et réelles.
Publiée dans Nature Communications, cette recherche est le fruit d’une collaboration entre des scientifiques de l’Université de Sydney et de l’Université de Californie à Los Angeles.
L’auteur principal, Ruomin Zhu, doctorant à l’Institut Nano de l’Université de Sydney et à l’École de Physique, a déclaré : « Les résultats démontrent comment les fonctions d’apprentissage et de mémoire inspirées du cerveau utilisant des réseaux de nanofils peuvent être utilisées pour traiter des données dynamiques et en streaming .»
Les réseaux de nanofils
Les réseaux de nanofils sont constitués de minuscules fils qui ont un diamètre de seulement quelques milliardièmes de mètre. Ces fils s’organisent en motifs qui rappellent le jeu pour enfants ‘Pick Up Sticks’, imitant les réseaux neuronaux, comme ceux de notre cerveau. Ces réseaux peuvent être utilisés pour effectuer des tâches spécifiques de traitement de l’information.
Les tâches de mémoire et d’apprentissage sont réalisées à l’aide d’algorithmes simples qui répondent aux changements de résistance électronique aux jonctions où les nanofils se chevauchent. Connu sous le nom de ‘commutation de mémoire résistive’, cette fonction est créée lorsque les entrées électriques rencontrent des changements de conductivité, similaires à ce qui se passe avec les synapses dans notre cerveau.
Reconnaissance et mémorisation d’images
Dans cette étude, les chercheurs ont utilisé le réseau pour reconnaître et se souvenir de séquences d’impulsions électriques correspondant à des images, inspirées par la façon dont le cerveau humain traite l’information.
La chercheuse principale, la professeure Zdenka Kuncic, a indiqué que la tâche de mémoire était similaire à celle de se souvenir d’un numéro de téléphone.
Le réseau a également été utilisé pour effectuer une tâche de reconnaissance d’images de référence, en accédant à des images dans la base de données MNIST de chiffres manuscrits, une collection de 70 000 petites images en niveaux de gris utilisées en apprentissage automatique.
En synthèse
« Notre précédente recherche a établi la capacité des réseaux de nanofils à se souvenir de tâches simples. Ce travail a étendu ces résultats en montrant que des tâches peuvent être effectuées à l’aide de données dynamiques accessibles en ligne », a ajouté la professeure Kuncic. « C’est un pas en avant significatif car la réalisation d’une capacité d’apprentissage en ligne est un défi lorsqu’on doit traiter de grandes quantités de données qui peuvent être en constante évolution. »
Une approche standard consisterait à stocker les données en mémoire, puis à former un modèle d’apprentissage automatique à l’aide de ces informations stockées. Mais cela consommerait trop d’énergie pour une application généralisée. « Notre approche novatrice permet au réseau neuronal de nanofils d’apprendre et de se souvenir ‘à la volée’, échantillon par échantillon, en extrayant des données en ligne, évitant ainsi une utilisation lourde de la mémoire et de l’énergie. »
Dans cette étude, le réseau neuronal de nanofils a affiché une capacité d’apprentissage automatique de référence, obtenant un score de 93,4 % dans l’identification correcte des images de test. La tâche de mémoire impliquait de se rappeler des séquences allant jusqu’à huit chiffres. Pour les deux tâches, les données ont été diffusées dans le réseau pour démontrer sa capacité d’apprentissage en ligne et pour montrer comment la mémoire améliore cet apprentissage.
Pour une meilleure compréhension
Qu’est-ce qu’un réseau neuronal physique ?
Un réseau neuronal physique est un système qui imite le fonctionnement des neurones du cerveau humain. Il est constitué de minuscules fils, appelés nanofils, qui s’organisent en motifs pour effectuer des tâches spécifiques de traitement de l’information.
Comment fonctionne la commutation de mémoire résistive ?
La commutation de mémoire résistive est une fonction qui se produit lorsque les entrées électriques rencontrent des changements de conductivité, similaires à ce qui se passe avec les synapses dans notre cerveau. Elle est utilisée pour réaliser des tâches de mémoire et d’apprentissage.
Qu’est-ce que la base de données MNIST ?
La base de données MNIST est une collection de 70 000 petites images en niveaux de gris utilisées en apprentissage automatique. Elle contient des images de chiffres manuscrits qui sont utilisées pour tester les capacités de reconnaissance d’images des systèmes d’apprentissage automatique.
Qu’est-ce que l’apprentissage en ligne ?
L’apprentissage en ligne est une méthode d’apprentissage automatique où le modèle est formé et mis à jour à chaque fois qu’une nouvelle donnée est reçue. C’est une approche efficace pour traiter de grandes quantités de données qui peuvent être en constante évolution.
Quels sont les avantages de l’utilisation d’un réseau neuronal physique ?
Un réseau neuronal physique peut apprendre et se souvenir ‘à la volée’, échantillon par échantillon, en extrayant des données en ligne. Cela évite une utilisation lourde de la mémoire et de l’énergie. De plus, si les données sont diffusées en continu, comme cela serait le cas avec un capteur par exemple, les réseaux neuronaux physiques ont la capacité de s’adapter en temps réel.
Source : Nature Communications, Université de Sydney, Université de Californie à Los Angeles
Légende illustration principale : L’auteur principal, Ruomin Zhu, de l’université de Sydney, tient la puce conçue pour gérer le réseau neuronal à nanofils. Crédit : The University of Sydney
Zhu, Lilak, Loeffler, et al (Nature Communications, 2023)
‘Online dynamical learning and sequence memory with neuromorphic nanowire networks’
DOI: 10.1038/s41467-023-42470-5
