Lors de la 49ème session de Conseil des droits de l’homme qui s’est déroulée du 28 février au 1er avril dernier, Gérard Quinn a soumis un rapport comprenant une étude sur l’intelligence artificielle et les droits des personnes handicapées. Selon lui, si l’IA peut présenter d’énormes atouts pour les personnes handicapées, ses effets discriminants peuvent avoir des conséquences sur leurs droits. Il souligne donc l’urgence de « lancer un débat sur le ratio risques/possibilités de l’intelligence artificielle dans le contexte du handicap. »
L’article 1 de la Déclaration Universelle des Droits de l’Homme, adoptée par l’Assemblée générale des Nations Unies en 1948, stipule : « Tous les êtres humains naissent libres et égaux en dignité et en droits ». L’absence de discrimination, énoncée à l’article 2, est ce qui garantit cette égalité.
Pour garantir aux personnes handicapées la pleine jouissance de leurs droits sans discrimination, Le Conseil des droits de l’homme a établi le mandat de Rapporteur Spécial sur les droits des personnes handicapées en 2014 qui vise à renforcer les efforts pour reconnaître, promouvoir, mettre en œuvre et surveiller les droits des personnes handicapées. Gérard Quinn exerce ce mandat depuis octobre 2020.
Le rapport de Gérard Quinn sur les droits des personnes handicapées
Selon ce rapport, bien que le sujet suscite un vif intérêt général, les avantages directs et les inconvénients potentiels de l’intelligence artificielle pour les personnes handicapées, qui sont près d’un milliard dans le monde, n’ont guère fait l’objet d’évaluations détaillées. Cependant, des institutions nationales des droits de l’homme commencent à s’intéresser au ratio risques/possibilités des systèmes d’intelligence artificielle et de leur utilisation au regard des droits de l’homme.
Gérard Quinn déclare :
« Les nouvelles technologies peuvent être extrêmement bénéfiques pour les personnes handicapées et stimuler la recherche d’une égalité inclusive dans un large éventail de domaines tels que l’emploi, l’éducation et la vie autonome. Cependant, il existe de nombreux impacts discriminatoires bien connus. »
Il y a une prise de conscience croissante des problèmes que peuvent poser ces nouvelles technologies du point de vue des droits de l’homme, certains sont cependant supportés exclusivement, ou de façon différenciée et disproportionnée, par les personnes handicapées.
Le débat doit donc porter plus spécifiquement sur leurs conséquences sur les droits des personnes handicapées tels qu’établis dans la Convention relative aux droits des personnes handicapées, notamment les droits à la vie privée, à l’autonomie, à l’éducation, à l’emploi, à la santé, à l’autonomie de vie et à la participation.
Les effets positifs de l’IA pour les personnes handicapées
Les systèmes d’intelligence artificielle sont un atout, notamment dans le domaine des technologies d’assistance. Gérard Quinn a souligné que « les obstacles que nous pensions autrefois insurmontables sont soudainement mesurables. »
Il évoque les outils de navigation basés sur l’IA qui permettent aux personnes aveugles ou malvoyantes de se déplacer, les logiciels de suivi oculaire et de reconnaissance vocale, qui permettent aux personnes handicapées d’accéder à l’information et à l’éducation, de communiquer et de transmettre des informations. Les plateformes d’apprentissage adaptatif répondent ainsi aux besoins particuliers des étudiants handicapés.
Il a également rappelé l’utilité des logiciels de conversion de la parole en texte qui
pallient le manque chronique d’interprètes en langue des signes et rendent possibles les
interactions des personnes ayant des troubles de la parole avec les autres. Des avatars capables de traduire la parole en langue des signes à l’intention des personnes sourdes ou malentendantes ont d’ailleurs été créés récemment.
Les systèmes d’IA peuvent aussi aider à améliorer la situation des personnes handicapées en permettant de diagnostiquer des maladies, de déterminer les traitements à prescrire et en fournissant des soins à domicile. En outre, l’intelligence artificielle commence à être utilisée dans le domaine de la santé mentale.
Des algorithmes discriminatoires à l’égard des personnes handicapées
Si, grâce à l’IA, les personnes handicapées peuvent vivre de manière plus autonome, Gérard Quinn souligne que les algorithmes reposent sur des ensembles de données qui comprennent souvent « des données issues de décisions et de jugements de valeur formulés par le passé par des êtres humains – décisions et jugements qui peuvent être faillibles à plusieurs égards. »
Ces outils peuvent donc véhiculer des préjugés humains et, de ce fait, exclure les personnes handicapées. Le rapport cite comme exemple le secteur de l’emploi, où les processus de recrutement font de plus en plus appel à des algorithmes pour filtrer les candidats.
Gérard Quinn explique :
« Les données qui sous-tendent les algorithmes de l’intelligence artificielle peuvent refléter et intégrer des préjugés capacitistes (et des préjugés âgistes). Le handicap peut être “perçu” par la technologie comme déviant et donc indésirable Les personnes handicapées risquent de ne pas être prises en considération pour un poste sans même qu’il soit tenu compte de leurs mérites et de la possibilité de procéder à des “aménagements raisonnables” leur permettant d’accomplir les fonctions essentielles associées à ce poste. »
Placer les droits humains des personnes handicapées au cœur du débat sur les nouvelles technologies
Pour Gérard Quinn, le pouvoir sans précédent de l’intelligence artificielle peut être mis au service des personnes handicapées et les progrès considérables de l’humanité doivent être exploités afin que les personnes les plus défavorisées puissent enfin bénéficier pleinement de la science et de ses avancées.
La solution, selon lui, pour concrétiser les bénéfices tangibles de l’IA pour les personnes handicapées, est de placer leurs droits humains au centre du débat sur les nouvelles technologies.
Il demande aux États d’inclure le handicap dans leurs stratégies relatives à l’IA et de mettre l’accent sur l’obligation de procéder à des « aménagements raisonnables », ainsi qu’à prendre explicitement en compte le handicap lors de l’achat de produits et de services fondés sur l’intelligence artificielle.
Il ajoute :
« Plus important encore, nous appelons à la création d’un nouvel espace – un espace de collaboration – entre le secteur des entreprises, le gouvernement et la société civile, afin d’examiner et de concrétiser les avantages de ces technologies et de prendre des mesures concrètes pour inverser certains de ses effets négatifs connus et éviter de tels effets à l’avenir. »
Il conclut :
« Sinon, les personnes les plus exclues n’auront aucune chance de s’en sortir. Étant donné les possibilités qu’offre cette technologie, ce serait une tragédie pour l’humanité. »
