GrAI Matter Labs (alias GML) a lancé, le 24 octobre 2019, GrAI One, présenté comme le tout premier processeur IA au monde optimisé pour un traitement à latence ultra-faible et à faible consommation d’énergie en périphérie (edge). Il s’agit d’une puce reposant sur la technologie NeuronFlow de la société. Elle réduit considérablement le temps de latence des applications.
Comme l’indique GrAI Matter Labs, GrAI One réduit par exemple les latences de bout en bout pour les réseaux d’apprentissage profond tels que PilotNet, à quelques microsecondes. NeuronFlow combine le paradigme du flux de données dynamique avec l’informatique neuromorphique pour produire un traitement en réseau massivement parallèle. GrAI One est destiné aux applications de périphérie critiques dans les domaines de la navigation autonome, de l’interaction entre humains et machine et des soins de santé intelligents.
La puce entièrement numérique mesure 20 mm2 avec la technologie 28 nm de TSMC et implémente un maillage de 196 cœurs de neurones avec des mémoires locales de type neurone/synapse pour un total de 200 000 neurones. Elle fournit une interface GPIO permettant de soulager les charges de travail IA à la latence critique d’un processeur hôte. Avec une utilisation de base de 100 % des neurones, GrAI One consomme aussi peu que 35 mW.
GrAI One est soutenue par le kit de développement logiciel GrAIFlow de GML. Elle est capable d’exécuter des programmes classiques et des calculs d’apprentissage automatique via des langages standard tels que TensorFlow, Python et C++. Le kit comprend un compilateur, un simulateur, un débogueur, un éditeur graphique et des API de calcul et de réseau. GrAIFlow est désormais disponible pour les clients bénéficiant d’un accès anticipé à des fins d’évaluation de l’architecture et de programmation d’applications. GrAI One devrait être prête pour l’échantillonnage au T4 2019.
Ingolf Held, PDG de la société, a déclaré :
“GrAI One traite les commandes d’applications IA en périphérie plus rapidement que les architectures traditionnelles, tout en maintenant une empreinte énergétique adaptée aux périphériques alimentés par batterie. Avec GrAIFlow, nous offrons à nos clients l’opportunité d’explorer de nouveaux cas d’utilisation à latence ultra-faible, apportant ainsi leur innovation à chaque périphérique en périphérie”.