Audrey Azoulay, Directrice générale de l’UNESCO, présentait la semaine dernière la toute première norme mondiale sur l’éthique de l’intelligence artificielle, adoptée par les 193 États membres de l’UNESCO lors de la Conférence générale de l’organisation internationale. L’UNESCO avait souligné dès novembre 2019 la nécessité d’instaurer des cadres réglementaires au niveau national mais aussi international pour s’assurer que les technologies innovantes de l’IA puissent profiter à l’humanité entière. Cette recommandation, fruit du travail de 24 experts internationaux nommés le 11 mars 2020, fixe un cadre normatif mondial et donne à ses États membres la responsabilité de traduire ce cadre à leur niveau.
Lors de la dernière décennie, l’IA a connu un essor considérable. Les experts sont unanimes : l’humanité est au seuil d’une nouvelle ère et l’intelligence artificielle va transformer nos existences dans une mesure que nous ne pouvons imaginer. Cette transformation a déjà commencé et et l’IA s’est invitée dans de nombreux secteurs dont la santé, l’éducation, la culture, la sécurité, la défense, etc. Omniprésente, elle s’est immiscée dans notre quotidien sans que nous en soyons forcément conscients via nos smartphones, GPS, véhicules autonomes, dans les outils de reconnaissance faciale, etc.
Les géants du web mais aussi de nombreux pays investissent désormais massivement dans l’IA. Elle participe d’ailleurs à la prise de décision des gouvernements et du secteur privé. Les technologies de l’IA ont permis des avancées considérables dans de nombreux domaines, elle permet aux scientifiques de mieux appréhender des problèmes cruciaux comme le changement climatique qui accroît la faim dans le monde (Madagascar en est malheureusement un exemple). Mais dans le même temps, de nombreux observateurs alertent sur les possibles dérives qu’elle pourrait entraîner : augmentation des préjugés sexistes et ethniques, menaces qui pèsent sur la vie privée, la dignité et la capacité d’agir, dangers concernant la surveillance de masse, etc.
Or, aucun cadre éthique international, s’appliquant à l’ensemble des développements et des applications de l’IA n’avait encore vu le jour. Une étude préliminaire a été publiée en avril 2019 et la recommandation “énonce des valeurs et principes communs qui guideront la mise en place de l’infrastructure juridique nécessaire pour assurer un développement sain de l’IA”.
“Le monde a besoin de règles pour que l’intelligence artificielle profite à l’humanité. La Recommandation sur l’éthique de l’IA est une réponse forte. Elle fixe le premier cadre normatif mondial tout en donnant aux États la responsabilité de l’appliquer à leur niveau. L’UNESCO soutiendra ses 193 États membres dans sa mise en œuvre et leur demandera de rendre compte régulièrement de leurs progrès et de leurs pratiques.”
Contenu de la recommandation de l’Unesco
La recommandation a évidemment pour but de matérialiser les avantages que l’IA apporte à la société et à en réduire les risques, les droits de l’homme sont mis en avant ainsi que les objectifs de développement durable. Elle comprend des chapitres politiques orientés vers l’action sur la gouvernance des données, le travail, les soins de santé, l’économie ainsi que vers les thèmes spécifiques de l’Unesco : l’éducation, la science et la culture. Audrey Azoulay explique :
“la recommandation est basée sur le respect et la protection des Droits de l’Homme et de la dignité humaine, la nécessité de protéger l’environnement et les écosystèmes, le fait de veiller à assurer l’inclusion et la diversité, et de favoriser des sociétés pacifiques, justes et indépendante”
La recommandation comporte quatre axes :
- Protection des données
L’objectif est d’améliorer la protection des données en assurant la transparence et de permettre l’accès et le contrôle de tout un chacun à ses données personnelles et, le cas échéant, de les effacer. Elle renforce également la capacité des organismes de réglementation du monde entier à faire respecter ces dispositions.
- Interdiction de la notation sociale et de la surveillance de masse
l’IA ne doit pas être utilisée pour la notation sociale et la surveillance de masse, des technologies « très invasives » qui portent atteinte aux libertés fondamentales et aux droits de l’homme comme elle l’est actuellement, les technologies de l’IA ne devraient pas être dotées elles-mêmes d’une personnalité juridique.
- Aide au suivi et à l’évaluation.
La Recommandation jette également les bases des outils qui contribueront à sa mise en œuvre. L’évaluation de l’impact éthique vise à aider les pays et les entreprises à évaluer l’impact des systèmes d’IA sur les individus, la société et l’environnement. Elle permet aux États Membres d’évaluer dans quelle mesure ils sont prêts en termes d’infrastructure juridique et technique et à prendre les mesures appropriées pour une mise en œuvre pratique de l’éthique.
- Protection de l’environnement
La Recommandation souligne que les acteurs de l’IA devraient privilégier les méthodes d’IA économes en données, en énergie et en ressources qui en feront un outil majeur dans la lutte contre le changement climatique et la résolution de problèmes environnementaux. Elle préconise l’investissement dans les technologies vertes et de ne pas utiliser les systèmes d’IA qui ont un impact négatif disproportionné sur l’environnement.
Gabriela Ramos, Sous-directrice générale de l’UNESCO pour les sciences sociales et humaines a déclaré :
“Les décisions qui ont un impact sur des millions de personnes devraient être équitables, transparentes et contestables. Ces nouvelles technologies doivent nous aider à relever les grands défis de notre monde actuel, tels que l’accroissement des inégalités et la crise environnementale, et non les aggraver.”
“L’IA permet bon nombre d’avancées positives qui doivent respecter l’état de droit, on doit en corriger les aspects négatifs qui peuvent augmenter les divisions et inégalités au niveau mondial”.
