Dans le cadre de la 2021 Counter-Terrorism Week de l’Organisation des Nations Unies (ONU), deux rapports ont été présentés autour de l’utilisation de l’intelligence artificielle dans le monde du terroriste ou pour lutter contre celui-ci. Ces documents ont été dévoilés en la présence de 168 états membres de l’ONU, mais également celle d’acteurs de l’industrie, du milieu académique, de membres de la société civile, d’organisations régionales, du centre et du bureau des Nations Unies pour la lutte contre le terrorisme. Le premier dossier analyse l’utilisation des algorithmes à des fins terroristes, tandis que le second évoque l’utilisation de l’IA pour lutter contre l’utilisation terroriste d’internet et des réseaux sociaux.
Ces deux rapports sont le fruit d’un partenariat entre le centre des Nations Unies contre le terrorisme, l’institut interrégional de recherche des Nations Unies sur la criminalité et la justice et le centre d’intelligence artificielle et de robotique affilié à l’institut. La problématique est la suivante : comment l’IA peut-être utilisée pour combattre la menace du terrorisme en ligne ?
Lutter contre le terrorisme en ligne grâce à l’intelligence artificielle
Le premier rapport proposé par traite de la lutte contre le terrorisme en ligne grâce à l’intelligence artificielle. Il s’intitule : “Countering Terrorism Online with Artificial Intelligence – An Overview for Law Enforcement and Counter-Terrorism Agencies in South Asia and South-East Asia”. Pour ce document, les spécialistes se sont penchés sur les régions de l’Asie du Sud et l’Asie du Sud-Est, les deux plus grands foyers de peuplement sur Terre.
Le document se divise en cinq chapitres :
- Premier chapitre : cette partie propose une introduction générale au contexte du terrorisme, à l’utilisation d’internet et de l’IA en Asie du Sud et du Sud-Est.
- Second chapitre : Data science, machine learning, deep learning, NLP, vision par ordinateur etc. Tout est passé au crible dans cette seconde partie puisqu’elle présente et explique certains termes clés liés à l’IA et aux outils numériques.
- Troisième chapitre : ce chapitre recense les applications de l’IA dans la lutte contre l’utilisation d’internet et des réseaux sociaux par les terroristes. Six cas d’usages ont été identifiés par les experts :
- L’analyse prédictive des activités terroristes
- L’identification des signaux d’alarme mettant en avant une radicalisation
- La détection de la désinformation et des fake news diffusées par les terroristes à des fins stratégiques
- La modération et le retrait de contenu automatisés
- La lutte contre les récits terroristes et extrémistes
- La gestion des demandes lourdes générées par les analyses de données.
- Quatrième chapitre : cette partie présente des défis que les organismes d’application de la loi et de la lutte contre le terrorisme doivent être prêts à relever en matière de technologie. On retrouve des sous-parties sur les droits de l’homme, sur la gouvernance de l’IA ou sur l’admissibilité de l’IA dans certaines situations par exemple.
- Cinquième chapitre : cette partie fournit des recommandations aux mêmes organismes pour relever ces défis et donc lutter contre le terrorisme en ligne. Construire une approche régionale, reconnaître et faire reconnaître les limites de l’IA, faire respecter les droits de l’Homme et la protection de la société civile, établir des verrous de sécurité technologique, et développer les connaissances autour d’une IA éthique et responsable sont les recommandations proposées dans le rapport.
Algorithmes et terrorisme : l’utilisation malveillante de l’IA à des fins terroristes
Le second rapport traite de l’utilisation malveillante de l’intelligence artificielle et plus précisément des algorithmes à des fins terroristes. Le document s’intitule : “Algorithms and Terrorism: The Malicious Use of Artificial Intelligence for Terrorist Purposes”. Il propose neuf chapitres qui met en avant l’utilisation, certes “low-tech”, des outils numériques par les terroristes en prenant en compte la problématique qui suit : “Quand l’IA deviendra-t-il un instrument “puissant” dans la boîte à outils que possède le terroriste et à quoi peut s’attendre la communauté internationale vis-à-vis de cette utilisation drastique ?”
Le dossier s’articule ainsi :
- Premier chapitre : il donne un aperçu général, fournit des statistiques qui démontrent les inquiétudes croissantes parmi les experts concernant l’utilisation malveillante de cette technologie, y compris par des terroristes.
- Deuxième chapitre : description du paysage général de l’IA. Aperçu du machine learning, du deep learning, des différents domaines bénéficiant des capacités des algorithmes, tels que le traitement du langage naturel et la reconnaissance d’images, ainsi que les tendances à venir dans l’utilisation de cette technologie.
- Troisième chapitre : cette partie cherche à démontrer toute la menace des groupes terroristes et des individus utilisant les nouvelles technologies en présentant plusieurs exemples d’attaques terroristes où des technologies telles qu’internet et les réseaux sociaux ont été des outils précieux et puissants.
- Quatrième chapitre : ce chapitre cherche à contextualiser davantage l’utilisation malveillante de l’IA en examinant trois catégories de menaces – cybermenaces , menaces physiques et menaces politiques – qui ont été identifiées dans la littérature scientifique existante afin de démontrer comment l’IA peut être utilisée de manière malveillante.
- Cinquième chapitre : cette partie met en avant une problématique. Elle donne des éléments de réponse afin de savoir si le terrorisme basé sur l’IA pourrait être une réalité concevable, ou s’il ne s’agit que d’une simple supposition. Sont présentés plusieurs exemples de groupes terroristes qui ont manifesté un intérêt pour l’IA ou pour des technologies connexes, y compris dans des vidéos utilisant la reconnaissance faciale ou des systèmes aériens sans pilote comme les drones.
- Sixième chapitre : il fournit un aperçu détaillé des utilisations malveillantes possibles (à l’heure actuelle et dans le futur) de l’IA par des groupes et des individus terroristes. Cette vue d’ensemble comprend à la fois les utilisations malveillantes qui sont documentées et identifiées par la recherche, et celles qui, malgré le manque de preuves ou de littérature, pourraient devenir une réalité future.
- Septième chapitre : il présente trois scénarios fictifs pour soutenir les visualisations de la façon dont l’IA pourrait être utilisée de manière malveillante à des fins terroristes. Ces scénarios se concentrent sur les tentatives pour deviner des mots de passe grâce à l’IA, sur les ransomwares, sur des drones avec reconnaissance faciale, sur les deepfakes et les passeports transformés mis à disposition via un forum clandestin dans un business model type “Crime-as-a-service”.
- Huitième chapitre : en s’appuyant sur les informations présentées dans les chapitres précédents, il évalue s’il y a lieu de s’inquiéter des groupes terroristes et des individus employant directement l’IA, par exemple, pour améliorer ou amplifier une attaque. À cet égard, les concepts d’intention et de capacité sont analysés pour parvenir à des conclusions objectives.
- Neuvième chapitre : cet ultime chapitre conclut le rapport en proposant un ensemble de recommandations à l’intention des organes de lutte contre le terrorisme et des organismes chargés de l’application des lois, ainsi qu’aux décideurs politiques et au monde de l’industrie et des universités. Le rapport suggère plusieurs actions de suivi pour le renforcement des capacités afin de préparer l’avenir possible du terrorisme basé sur l’IA.
