L’Organisation des Nations Unies (ONU) a expliqué que certains systèmes d’intelligence artificielle étaient dans son viseur. Elle considère notamment que les systèmes de reconnaissance faciale peuvent représenter un risque très sérieux dans le non-respect des droits de l’homme, particulièrement lorsque cette technologie est utilisée dans les espaces publics. C’est pour cela que l’ONU appelle à un moratoire sur certaines utilisations de l’IA.
La reconnaissance faciale dans le viseur de l’ONU
Le respect des droits de l’Homme à travers le monde est l’une des premières préoccupations de l’ONU qui considère que la reconnaissance faciale peut entraver ces droits internationaux. Michelle Bachelet, haut-commissaire des Nations unies aux droits de l’Homme a notamment déclaré ceci :
“Tous les pays, sans exception, doivent expressément interdire les applications d’intelligence artificielle qui ne respectent pas le droit international des droits de l’Homme. […] Leur utilisation peut avoir des effets négatifs, voire catastrophiques, si elles sont utilisées sans tenir suffisamment compte de la manière dont elles affectent les droits des personnes.”
Dans le cadre de ses travaux sur la technologie et les droits de l’homme, le Haut-Commissariat des Nations Unies aux droits de l’homme (HCDH) a publié aujourd’hui un rapport qui analyse la manière dont l’IA, y compris le profilage, la prise de décision automatisée et d’autres technologies d’apprentissage automatique, affecte le droit de la population à la vie privée et d’autres droits, notamment les droits à la santé, à l’éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d’association, et à la liberté d’expression.
Un appel à un moratoire à propos de certains systèmes d’intelligence artificielle
L’organisation intergouvernementale appelle ainsi à un moratoire en lien avec ces technologies et plus précisément sur la reconnaissance faciale. Michelle Bachelet ajoute :
“Étant donné la croissance rapide et continue de l’IA, combler l’immense déficit de responsabilité dans la manière dont les données sont collectées, stockées, partagées et utilisées est l’une des questions en matière de droits de l’homme les plus urgentes auxquelles nous sommes confrontés. Le risque de discrimination lié aux décisions prises par l’IA – des décisions qui peuvent changer, définir ou endommager des vies humaines – est bien réel. C’est pourquoi il faut une évaluation et un suivi systématiques des effets des systèmes d’IA afin d’identifier et d’atténuer les risques en matière de droits de l’homme.”
L’ONU considère par exemple que les systèmes gouvernementaux de “notation sociale” devraient purement et simplement être interdits. De plus, toujours selon l’ONU, les déductions, les prévisions et la surveillance effectuées par les outils d’IA, y compris la recherche d’informations sur les modèles de comportement humain, soulèvent de graves questions.
Le rapport de l’IA a mis en avant plusieurs dysfonctionnements de l’IA par le passé qui aurait empêché des gens de toucher des aides sociales ou de trouver un emploi. Certaines personnes innocentes auraient été arrêtées par la police sur la base de systèmes de reconnaissance faciale mal entraînés n’ayant pas reconnu correctement des personnes aux traits physiques africains par exemple.
Sans sermonner une ou plusieurs nations en particulier, le message qu’adresse l’ONU est adressé à l’ensemble des décideurs politiques. Selon madame Bachelet, “il faut agir dès maintenant pour mettre en place des protections en matière de droits de l’homme quant à l’utilisation de l’IA, pour le bien de tous”.
