S’il est une activité numérique qui consomme beaucoup d’énergie, demande beaucoup de temps et a des coûts élevés, c’est bien le deep learning. Une approche basée sur le deep learning analogique est à la fois moins énergivore et plus rapide. Une équipe multidisciplinaire du MIT a travaillé à la création de résistances nanométriques protoniques programmables. Son étude, intitulée « Nanosecond protonic programmable resistors for analog deep learning » a été publiée dans la revue Science le 28 juillet dernier.
Les auteurs principaux de cette étude sont Murat Onen, postdoctorant au MIT, Jesús A. del Alamo, professeur Donner au Département de génie électrique et d’informatique (EECS) du MIT ainsi que Ju Li, professeur de science et d’ingénierie nucléaires à la Battelle Energy Alliance et professeur de science et d’ingénierie des matériaux. Frances M. Ross, professeure Ellen Swallow Richards au Département de science et de génie des matériaux, les postdoctorants Nicolas Emond et Baoming Wang ainsi que Difei Zhang, étudiant diplômé de l’EECS, en sont les coauteurs.
Les résistances programmables sont les éléments clés du deep learning analogique, à l’instar des transistors pour les processeurs numériques.
Dans une étude précédente, menée avec le Brookhaven National Lab, (« Protonic solid-state electrochemical synapse for physical neural networks », parue dans Nature Communications), les chercheurs avaient développé une synapse analogique. Le but de l’étude actuelle est de repousser les limites de vitesse de cette synapse.
Le deep learning analogique
Les résistances programmables sont les éléments essentiels au deep learning à l’instar des transistors pour les processeurs numériques.
Si le deep learning analogique est plus rapide et plus économe en énergie que le deep learning numérique, cela tient à deux raisons principales : le calcul est effectué en mémoire, les énormes charges de données ne sont ainsi pas transférées de la mémoire à un processeur, la seconde raison est que les processeurs analogiques effectuent également des opérations en parallèle. Bien que la taille de la matrice augmente, un processeur analogique n’a pas besoin de plus de temps pour effectuer de nouvelles opérations, puisque tous les calculs sont effectués simultanément.
Pour développer une résistance protonique programmable, élément clé du processeur analogique de l’équipe du MIT, qui soit ultra-rapide et très économe en énergie, les chercheurs se sont tournés vers différents matériaux pour l’électrolyte et ont opté pour le verre phosphosilicate inorganique (PSG).
Le PSG est composé de dioxyde de silicium, un matériau déshydratant poudreux que l’on trouver dans les boites lorsqu’on achète des chaussures par exemple. Pour le fabriquer, on ajoute un petit peu de phosphore au silicium afin de lui donner des caractéristiques spéciales pour la conduction des protons.
Murat Onen pensait « qu’un PSG optimisé pourrait avoir une conductivité protonique élevée à température ambiante sans avoir besoin d’eau, ce qui en ferait un électrolyte solide idéal pour cette application. » L’étude lui a donné raison.
Une vitesse surprenante
Le verre phosphosilicate inorganique compte une multitude de pores de taille nanométrique qui ont permis aux protons de se déplacer très rapidement. Il a également la capacité de résister à des champs électriques pulsés très forts. Ceci est essentiel, explique Murat Onen, car l’application de plus de tension à l’appareil permet aux protons de se déplacer à des vitesses aveuglantes.
Il déclare :
« La vitesse était certainement surprenante. Normalement, nous n’appliquerions pas de champs aussi extrêmes sur tous les appareils, afin de ne pas les transformer en cendres. Mais au lieu de cela, les protons ont fini par faire la navette à des vitesses immenses à travers la pile d’appareils, en particulier un million de fois plus vite que ce que nous avions auparavant. Et ce mouvement n’endommage rien, grâce à la petite taille et à la faible masse des protons. C’est presque comme se téléporter. »
Ju Li ajoute :
« L’échelle de temps nanoseconde signifie que nous sommes proches du régime de tunneling balistique ou même quantique pour le proton, sous un champ aussi extrême. »
Les protons n’endommageant pas le matériau, la résistance pourra « fonctionner pendant des millions de cycles sans se décomposer ». Le PSG a permis de créer une résistance protonique programmable qui est un million de fois plus rapide que le dispositif précédent des chercheurs et peut fonctionner efficacement à température ambiante, ce qui est important pour l’intégrer dans le matériel informatique.
Murat Onen ajoute :
« Grâce aux propriétés isolantes du PSG, presque aucun courant électrique ne traverse le matériau lorsque les protons se déplacent. Cela rend l’appareil extrêmement économe en énergie. »
Jesús A. del Alamo, conclut :
« Avec cette idée clé, et les techniques de nanofabrication très puissantes que nous avons à MIT.nano, nous avons été en mesure de rassembler ces pièces et de démontrer que ces dispositifs sont intrinsèquement très rapides et fonctionnent avec des tensions raisonnables. Ce travail a vraiment mis ces appareils à un point où ils semblent maintenant très prometteurs pour de futures applications. »
Sources de l’article :
« Nanosecond protonic programmable resistors for analog deep learning » DOI: 10.1126/science.abp8064
Auteurs : Murat Onen; Nicolas Emond; Baoming Wang; Difei Zhang; Frances M. Ross; Ju Li; Bilge Yildiz; Jesús A. del Alamo
