Ces dernières années, des efforts ont été réalisés pour réduire la demande énergétique des systèmes d’IA, ce qui a conduit à une restructuration des méthodes utilisées. Toutefois, une équipe de chercheurs vient de découvrir que cette structure peut être attaquée afin de faire en sorte que la machine travaille beaucoup plus et réalise par conséquent beaucoup plus de calculs. Une cyberattaque de ce type pourrait faire monter en flèche la consommation d’électricité et donc, être à l’opposé de ce que le modèle proposait à l’origine.
Un modèle permettant de réduire la consommation d’électricité des systèmes d’IA
L’énorme consommation d’énergie des grands modèles d’IA a conduit les chercheurs à concevoir des réseaux de neurones plus efficaces. Une des solutions proposées consiste à utiliser des systèmes multi-agents adaptatifs qui fonctionnent en divisant les tâches à effectuer par rapport à leur difficulté de résolution. Ensuite, l’outil dépense le moins de ressources possible pour réaliser chacune d’entre elles.
Prenons l’exemple de deux photographies : l’une montrant un homme debout au sein d’un paysage totalement dégagé et l’autre avec le même homme qui, cette fois-ci, est assis dans un paysage beaucoup plus complexe. Un réseau de neurones classique ferait passer les deux photos par toutes ses couches et dépenserait la même quantité de puissance de calcul pour étiqueter chacune des deux images. Mais le système multiagent adaptatif va faire en sorte que la photo plus facile à étiqueter (la première) ne passe que par une ou deux couches, ce qui est tout à fait nécessaire pour réaliser la tâche.
Cela réduit l’empreinte carbone du modèle d’IA, améliore également sa vitesse et lui permet d’être déployé dans de petits appareils tels que les smartphones et les haut-parleurs intelligents. Mais ce type de réseau de neurones implique que si l’on modifie l’entrée, c’est-à-dire l’image qu’il reçoit, on pourrait modifier la quantité de calcul dont nous aurions besoin pour le résoudre, ce qui rend le système vulnérable.
Une cyberattaque qui s’en prend aux réseaux de neurones profonds
De la même manière qu’une attaque par déni de service (DDoS), cette cyberattaque cherche à obstruer un réseau afin de le rendre inutilisable. Le réseau de neurones profond du modèle est obligé d’utiliser beaucoup plus de ressources de calcul que nécessaire afin de ralentir son processus de “réflexion”. Sanghyun Hong, Yiğitcan Kaya, Ionuţ-Vlad Modoranu et Tudor Dumitraş, chercheurs à l’Université du Maryland pour le Maryland Cybersecurity Center, ont remarqué cette vulnérabilité dans le cadre de leur étude portant sur les réseaux de neurones profonds (DNN) et les attaques qu’ils peuvent subir.
Dans le cadre d’une expérience, ils ont généré des interférences à l’entrée d’un DNN ce qui a forcé le système à augmenter sa puissance de calcul nécessaire à la réalisation d’une tâche. Même si la personne qui pirate le modèle ne dispose que d’informations limitées sur celui-ci, les chercheurs ont déduit qu’il était tout de même capable de ralentir le traitement du réseau et d’augmenter la consommation d’énergie de 20 à 80%. Cela est dû au fait que les attaques peuvent se transférer facilement via différents types de réseaux de neurones.
Toutefois, ce genre d’attaque est encore assez théorique et ces études font figure de mise en garde. Les systèmes multi-agents adaptatifs sont voués à être plus fréquemment utilisés notamment dans l’IoT.
