Le rapport annuel d’Amnesty International publié ce 24 avril met en lumière les préoccupations croissantes concernant l’impact de l’intelligence artificielle sur les droits humains dans le monde. Il souligne que l’essor rapide de l’IA, combiné à l’inaction en matière de réglementation, crée un environnement propice pour le racisme, la discrimination et la division.
Pour Amnesty International, “le monde récolte les terribles conséquences de l’escalade des conflits et du quasi-effondrement du droit international”.
Le rapport 2024 sur La situation des droits humains dans le monde évalue l’état des droits fondamentaux dans 155 pays. En 2023, de nombreux états et groupes armés ont ignoré ou contourné les règles de la guerre, tandis que le racisme a été central dans certains conflits armés et leurs répercussions. Les populations marginalisées ont été particulièrement touchées par les crises économiques, le changement climatique et la dégradation de l’environnement.
Les défenseurs des droits humains, en particulier ceux qui militent pour les droits de ces populations, ont été visés dans une répression généralisée des voix dissidentes. Les oppositions aux droits des femmes, des filles et des personnes LGBTI ont également augmenté, tout comme la prolifération en ligne de discours de haine et d’autres contenus préjudiciables visant certains groupes racisés. Parallèlement, les avancées dans le domaine de l’intelligence artificielle ont parfois été utilisées pour restreindre les libertés individuelles et bafouer les droits fondamentaux.
Agnès Callamard, secrétaire générale d’Amnesty International, déclare :
“Le rapport d’Amnesty International dresse un tableau affligeant caractérisé par une répression alarmante des droits humains et de multiples violations des règles internationales, sur fond d’accroissement des inégalités mondiales, de rivalités entre superpuissances pour la suprématie et d’aggravation de la crise climatique”.
Pour l’organisation, l’effondrement de l’état de droit constaté en 2023 risque de s’accélérer avec le développement rapide de l’IA qui, couplé à la domination des géants de la haute technologie, pourrait entraîner une multiplication des violations des droits humains si la réglementation reste à la traîne.
Selon elle :
“Le mépris de la loi, la discrimination et l’impunité dans les conflits et ailleurs ont été favorisés par l’utilisation incontrôlée de technologies nouvelles ou familières, qui sont aujourd’hui couramment utilisées comme armes par des acteurs militaires, politiques et du monde de l’entreprise. Les plateformes des géants technologiques alimentent les conflits. Des logiciels espions et des outils de surveillance de masse sont utilisés pour attenter aux libertés et aux droits fondamentaux, tandis que les gouvernements déploient des outils automatisés visant les groupes les plus marginalisés de la société”.
De l’urgence d’une réglementation de l’IA plus stricte
Pour Amnesty International, bien qu’imparfait et incomplet, l’AI Act a eu le mérite d’ouvrir un débat indispensable sur la réglementation de l’IA. Cependant, elle estime que l’évolution rapide de l’IA générative a fait changer d’échelle la menace que constituait l’éventail de technologies déjà existantes, des logiciels espions à l’automatisation des services publics en passant par les algorithmes incontrôlables des réseaux sociaux.
Agnès Callamard souligne :
“Nous avons vu combien la haine, la discrimination et la désinformation étaient amplifiées et diffusées par les algorithmes des réseaux sociaux, qui sont optimisés avant tout pour obtenir un taux d’“engagement” maximal. Ils créent une boucle de commentaires infinie et dangereuse, en particulier dans les périodes particulièrement sensibles sur le plan politique. Les outils actuels peuvent générer des images, des enregistrements audio et des vidéos virtuels en quelques secondes, ainsi que prendre pour cible des publics précis par groupes entiers. Or, la réglementation électorale est en retard face à cette menace. Jusqu’à présent, nous avons vu trop de discours mais pas assez d’actes”.
Pour Amnesty International, les gouvernements doivent prendre des mesures législatives et réglementaires fermes pour lutter contre les risques et les préjudices liés aux technologies de l’IA et au règne des géants technologiques.
