Après la publication de ses travaux sur le soldat augmenté, le Comité d’éthique de la défense a remis à Florence Parly et au ministère des Armées son avis sur l’intégration de l’autonomie dans les systèmes d’armes létaux. Sujet central choisi du fait de la mesure des enjeux stratégiques, juridiques et éthiques soulevés par le développement des applications militaires de l’intelligence artificielle, et en particulier par l’émergence potentielle de Systèmes d’armes létaux pleinement autonomes (SALA).
Les conclusions du Comité confortent les positions prises par la France depuis plusieurs années sur le sujet des SALA : la France confirme qu’elle ne développera et n’emploiera pas de systèmes d’armes létaux pleinement autonomes.
Un comité éthique constitué de spécialistes du monde de la technologie
Le Comité d’éthique de la défense est une structure de réflexion permanente sur les enjeux éthiques des nouvelles technologies dans le domaine de la défense mis en place sur décision du ministère des Armées. Constitué en janvier 2020, il est composé de personnalités qualifiées, civiles et militaires, offrant des compétences dans les domaines opérationnels, scientifiques, médicaux, philosophiques, historiques et juridiques. Il a pour objectif d’apporter ses perspectives à la ministre des Armées et à ses grands subordonnés autour de deux questions :
- les questions éthiques soulevées par les innovations scientifiques et techniques et leurs applications militaires éventuelles
- les questions liées aux évolutions de la fonction militaire
La mise en place de ce comité émane de la volonté affichée par la France de s’impliquer sur ces questions autour du développement des applications militaires de l’intelligence artificielle, et en particulier les systèmes d’armes létaux autonomes.
Un rapport sur l’intégration de l’autonomie dans les systèmes d’armes létaux
Après avoir suivi un processus de réflexion, le Comité a identifié 6 principes directeurs et a proposé 25 recommandations en ce qui concerne la recherche, l’emploi, la méthodologie, la formation et la conception de techniques permettant l’autonomisation des systèmes d’armes. Dans son avis, le comité d’éthique de la défense a réalisé un travail approfondi de définition qui attire l’attention sur les pièges du champ lexical comparant à tort la machine à l’homme (l’anthropomorphisme).
Au terme de cette analyse initiale, le Comité d’éthique de la défense a choisi d’établir une stricte distinction entre :
- Les Systèmes d’armes létaux autonomes (SALA), qui sont des systèmes d’armes létaux programmés pour être capables de faire évoluer leurs règles de fonctionnement, d’échapper au contrôle humain et de redéfinir tout seuls leur mission ;
- Et les Systèmes d’armes létaux intégrant de l’autonomie (SALIA) qui sont des systèmes comportant des fonctions automatisées, mais sous contrôle humain, dans des conditions qui garantissent :
- Le respect du principe constitutionnel de nécessaire libre disposition de la force armée,
- le respect du principe de continuité de la chaîne de commandement de l’ordre à son application,
-
Un SALIA ne pourrait prendre d’initiatives létales – sans contrôle humain. Il ne pourrait pas modifier seul ses conditions de fonctionnement.
En somme, il existe une différence de nature entre les SALA, et la notion de SALIA introduite par le Comité, qui désigne un système ne pouvant pas être déployé sans intervention humaine : l’humain reste au cœur des décisions d’usage de la force létale.
Le rapport évoque également la notion d’autonomie et explicite l’ensemble des définitions existantes autour du sujet. Le ministère des Armées a annoncé qu’il allait attentivement étudier cet avis afin de s’exprimer autour de l’utilisation de ces systèmes et qu’il “condamne toute volonté de développement, d’emploi ou d’export de systèmes d’armes pleinement autonomes c’est-à-dire capables de faire évoluer, au-delà du cadre d’emploi fixé initialement, leurs règles d’emploi de la force létale”.
La ministre des Armées s’exprimera sur l’avis indépendant rendu par le comité d’éthique de la défense, lorsque ses conclusions auront fait l’objet d’études d’appropriation au sein des services du ministère. Elle salue le travail et l’investissement du comité au service d’une meilleure connaissance critique des enjeux éthiques de la défense.
Les avis sont consultables ici en version française et anglaise.
