Le 21 avril 2021, la Commission Européenne présentait son projet de réglementation de l’IA. Plus récemment, en décembre dernier, la Slovénie qui assurait alors la présidence du Conseil de l’UE, soumettait un texte de compromis concernant ce projet de loi visant à interdire le scoring social, à encadrer l’utilisation de l’identification biométrique et des systèmes d’IA à haut risque. C’est dans ce contexte que la Commission Nationale Consultative des Droits de l’Homme (CNCDH) a adopté en avril dernier un « Avis relatif à l’impact de l’intelligence artificielle sur les droits fondamentaux » et publié 19 recommandations.
La CNCDH est l’institution nationale française de promotion et de protection des droits de l’Homme. Créée en 1947 à l’initiative de René Cassin, Prix Nobel de la Paix, accréditée auprès des Nations-Unies, indépendante, elle apporte ses conseils aux pouvoirs publics, assure le contrôle des engagements internationaux de la France en matière de droits de l’Homme et de droit international humanitaire. Elle a également pour mission d’éduquer et de sensibiliser aux droits humains.
Pour conseiller les pouvoirs publics et éclairer leurs décisions, elle publie des études, des rapports et des avis.
L’avis relatif à l’impact de l’intelligence artificielle sur les droits fondamentaux
Alors que le projet de réglementation de l’IA est en voie d’être adopté et que le Conseil de l’UE poursuit ses travaux, la CNCDH a publié cet avis adopté à l’unanimité le 7 avril dernier. Elle est d’ailleurs tout à fait d’accord avec les propositions que la Slovénie a faites en décembre dernier et soumet au total 19 recommandations dont voici la synthèse :
- Recommandation n°1 : La CNCDH recommande de privilégier, dans la communication institutionnelle, une terminologie plus neutre et objective que l’expression « intelligence artificielle » telle que « systèmes algorithmiques d’aide à la décision » (SAAD).
- Recommandation n°2 : La Commission recommande de renforcer, au sein de la proposition de règlement l’Union européenne relatif à l’IA, les dispositions propres à assurer la mise en place d’un cadre juridique contraignant, garant du respect effectif des droits fondamentaux. De surcroît, la CNCDH recommande l’adoption, dans le cadre du Conseil de l’Europe, d’une « Convention 108+ de l’IA ».
- Recommandation n°3 : La CNCDH recommande la prise en compte d’une approche fondée sur les droits de l’Homme dans les réformes en cours, dès lors qu’elles entendent garantir le respect des droits fondamentaux.
- Recommandation n°4 : La CNCDH recommande l’interdiction du recours aux interfaces de choix dès lors qu’elles ont pour objet ou pour effet de manipuler, à leur détriment, les utilisateurs en exploitant leurs vulnérabilités.
- Recommandation n°5 : La CNCDH recommande d’interdire tout type de notation sociale (« social scoring ») mis en place par les administrations ou par toute entreprise, publique ou privée.
- Recommandation n°6 : La CNCDH recommande d’interdire l’identification biométrique à distance des personnes dans l’espace public et les lieux accessibles au public, en admettant par exception son utilisation, dès lors que celle-ci est strictement nécessaire, adaptée et proportionnée pour la prévention d’une menace grave et imminente pour la vie ou la sécurité des personnes et celle des ouvrages, installations et établissements d’importance vitale.
- Recommandation n°7 : La CNCDH recommande de poursuivre et d’approfondir la réflexion afin d’identifier les apports et les limites d’une utilisation de l’IA dans le cadre des procédures juridictionnelles.
- Recommandation n°8 : La CNCDH recommande d’interdire les technologies de reconnaissance des émotions, en admettant par exception leur utilisation dès lors qu’elles visent à renforcer l’autonomie des personnes, ou plus largement l’effectivité de leurs droits fondamentaux.
- Recommandation n°9 : La CNCDH recommande que l’utilisateur d’un système d’IA évalue l’impact du recours à ce système sur les droits fondamentaux et, en cas de risques identifiés, procède à leur évaluation en tenant compte de la probabilité et de la gravité de ces derniers.
- Recommandation n°10 : En fonction des risques engendrés par un système d’IA sur les droits fondamentaux dans un contexte d’usage particulier, la CNCDH recommande d’assurer préalablement à la décision d’y recourir, une consultation des parties prenantes, selon des modalités adaptées, en incluant par exemple les représentants du personnel et, plus largement, les personnes visées par le système d’IA.
- Recommandation n°11 : La CNCDH recommande de mettre en place une supervision du système d’IA, selon une procédure susceptible de varier selon les risques d’atteintes aux droits fondamentaux tels qu’identifiés par l’étude d’impact, afin de maintenir une vigilance en continu de la part de l’utilisateur à l’égard des effets du système, notamment ses effets discriminatoires.
- Recommandation n°12 : La CNCDH recommande de favoriser les investissements publics dans la conception d’outils de formation et d’information accessibles au plus grand nombre.
- Recommandation n°13 : La CNCDH recommande l’organisation de consultations nationales sur le modèle des États généraux de la bioéthique organisés par le Comité consultatif national d’éthique.
- Recommandation n°14 : La CNCDH recommande à l’Éducation nationale de renforcer la formation des élèves aux enjeux techniques, politiques et sociétaux de l’intelligence artificielle et de proposer, à cette fin, des supports pédagogiques à destination des enseignants.
- Recommandation n°15 : La CNCDH recommande de :
– garantir une intervention humaine pour le contrôle des décisions individuelles issues d’un système d’IA selon des modalités correspondant au niveau de risque de ce dernier ;
– en assurer l’effectivité par une formation appropriée et une information de l’intervenant sur les caractéristiques du système, sans lui imposer de contrainte particulière lorsqu’il s’écarte de la préconisation issue du système d’IA ;
– assurer aux usagers du service public le maintien systématique d’un accès alternatif à un agent humain. - Recommandation n°16 : La CNCDH recommande de reconnaître au bénéfice des utilisateurs des systèmes d’IA un droit au paramétrage de leurs critères, notamment afin de déterminer la sélection et la présentation des contenus reçus, et plus généralement dans l’hypothèse des interactions humain-machine.
- Recommandation n°17 : La CNCDH recommande d’informer systématiquement les personnes lorsqu’elles sont exposées ou amenées à interagir avec un système d’IA et, lorsqu’elles font l’objet d’une décision, que cette dernière se fonde, le cas échéant, en partie ou totalement sur un traitement algorithmique.
- Recommandation n°18 : La CNCDH recommande de garantir à la personne concernée un droit au réexamen, par un être humain, de toute décision individuelle fondée totalement, ou même en partie, sur un traitement algorithmique, dès lors qu’elle emporte des conséquences significatives pour elle.
- Recommandation n°19 : La CNCDH recommande aux administrations de communiquer sous une forme intelligible les informations sur le fonctionnement de l’algorithme, ainsi que sur la part éventuellement prise par une intervention humaine dans le processus de décision. Elle recommande par ailleurs de mener une réflexion s’agissant de l’extension de cette obligation aux organismes privés.
