S’appuyant sur les travaux des experts indépendants désignés l’an dernier, la Commission européenne a présenté les prochaines étapes en vue d’instaurer la confiance dans l’intelligence artificielle. Elle a ainsi lancé une phase pilote afin de faire en sorte que les lignes directrices en matière éthique pour le développement de l’intelligence artificielle (IA) puissent être mises en œuvre dans la pratique. La Commission invite l’industrie, les instituts de recherche et les autorités publiques à tester la liste d’évaluation détaillée élaborée par le groupe d’experts de haut niveau, qui complète les lignes directrices.
Les projets présentés ce 8 avril 2019 constituent un résultat attendu de la stratégie sur l’IA d’avril 2018, qui a pour objectif d’augmenter les investissements publics et privés de manière à ce qu’ils atteignent au moins 20 milliards d’euros par an au cours de la prochaine décennie, ce qui permettra d’accroître le volume des données disponibles, de favoriser les talents et de garantir la confiance.
Andrus Ansip, vice-président pour le marché unique numérique, s’est exprimé en ces termes :
« Je salue le travail accompli par nos experts indépendants. La dimension éthique de l’IA ne constitue ni un luxe superflu, ni un simple complément accessoire. Seule la confiance peut permettre à notre société de tirer pleinement parti des technologies. La proposition relative à l’IA éthique est une proposition gagnant-gagnant qui peut devenir un avantage concurrentiel pour l’Europe, en lui permettant de devenir le chef de file d’une IA axée sur le facteur humain, en laquelle les citoyens ont confiance ».
Mariya Gabriel, commissaire chargée de l’économie et de la société numériques, a fait la déclaration suivante :
« Aujourd’hui, nous avons franchi une étape importante sur la voie d’une IA éthique et sûre dans l’UE. Nous disposons désormais d’une base solide fondée sur les valeurs de l’UE et qui résulte d’un engagement profond et constructif de la part de nombreuses parties prenantes, y compris les entreprises, le monde universitaire et la société civile. Nous allons maintenant mettre ces exigences en pratique et, dans le même temps, favoriser un débat international sur une IA axée sur le facteur humain. »
Comme l’indique la Commission européenne, l’intelligence artificielle peut s’avérer bénéfique dans un large éventail de secteurs, comme les soins de santé, la consommation énergétique, la sécurité des véhicules, l’agriculture, le changement climatique et la gestion des risques financiers. Elle peut également contribuer à la détection des fraudes et des menaces pesant sur la cybersécurité, et permet aux autorités répressives de lutter plus efficacement contre la criminalité. Toutefois, l’IA fait naître de nouveaux enjeux pour l’avenir du travail et soulève des questions d’ordre juridique et éthique
La Commission a donc choisi d’adopter une approche en trois étapes : définir les exigences clés pour une IA digne de confiance, lancer une phase pilote à grande échelle pour recueillir les réactions et retours d’informations des parties prenantes, et élaborer un consensus international pour une IA centrée sur l’humain.
1. Sept éléments essentiels pour parvenir à une IA digne de confiance
Une IA digne de confiance devrait respecter toutes les législations et réglementations applicables ainsi qu’une série d’exigences; des listes d’évaluation spécifiques visent à faciliter la vérification du respect de chacune de ces exigences :
- Facteur humain et contrôle humain: les systèmes d’IA devraient être les vecteurs de sociétés équitables en se mettant au service de l’humain et des droits fondamentaux, sans restreindre ou dévoyer l’autonomie humaine.
- Robustesse et sécurité: une IA digne de confiance nécessite des algorithmes suffisamment sûrs, fiables et robustes pour gérer les erreurs ou les incohérences dans toutes les phases du cycle de vie des systèmes d’IA.
- Respect de la vie privée et gouvernance des données: il faut que les citoyens aient la maîtrise totale de leurs données personnelles et que les données les concernant ne soient pas utilisées contre eux à des fins préjudiciables ou discriminatoires.
- Transparence: la traçabilité des systèmes d’IA doit être assurée.
- Diversité, non-discrimination et équité: les systèmes d’IA devraient prendre en compte tout l’éventail des capacités, aptitudes et besoins humains, et leur accessibilité devrait être garantie.
- Bien-être sociétal et environnemental: les systèmes d’IA devraient être utilisés pour soutenir des évolutions sociales positives et renforcer la durabilité et la responsabilité écologique.
- Responsabilisation: il convient de mettre en place des mécanismes pour garantir la responsabilité à l’égard des systèmes d’IA et de leurs résultats, et de les soumettre à une obligation de rendre des comptes.
2. Processus pilote à grande échelle avec des partenaires
À l’été 2019, la Commission lancera une phase pilote impliquant un large éventail de parties prenantes. À l’heure actuelle déjà, les entreprises, les administrations publiques et les organisations peuvent adhérer à l’Alliance européenne pour l’IA, et elles seront informées du démarrage du processus pilote. En outre, les membres du groupe d’experts de haut niveau sur l’IA aideront à présenter et à expliquer les lignes directrices aux parties prenantes concernées dans les États membres.
3. Élaboration d’un consensus international pour une IA axée sur le facteur humain
La Commission souhaite porter son approche en matière d’IA sur la scène internationale parce que les technologies, les données et les algorithmes ne connaissent pas de frontières. À cette fin, la Commission renforcera sa coopération avec les partenaires partageant les mêmes idées, comme le Japon, le Canada ou Singapour, et continuera à jouer un rôle actif dans les discussions et initiatives internationales, y compris au sein du G7 et du G20. La phase pilote concernera également les entreprises d’autres pays et les organisations internationales.
Les prochaines étapes
À la suite de la publication de sa stratégie européenne sur l’intelligence artificielle (IA) en avril 2018, la Commission a mis en place le groupe d’experts de haut niveau sur l’IA, composé de 52 experts indépendants représentant le monde universitaire, l’industrie et la société civile.
Ce groupe d’experts a publié un premier projet de lignes directrices en matière d’éthique en décembre 2018, à la suite de quoi ont été organisées une consultation des parties prenantes et des réunions avec des représentants des États membres afin de recueillir des réactions et retours d’informations. Ces travaux font suite au plan coordonné élaboré avec les États membres pour favoriser le développement et l’utilisation de l’IA en Europe, qui a été présenté en décembre 2018.
Les membres du groupe d’experts sur l’IA présenteront leurs travaux de manière détaillée durant la troisième Journée du numérique qui se tiendra à Bruxelles ce 9 avril. À la suite de la phase pilote, au début de l’année 2020, le groupe d’experts sur l’IA dressera un bilan des listes d’évaluation des exigences clés, en se fondant sur les retours d’informations reçus.
En s’appuyant sur ce bilan, la Commission analysera les résultats obtenus et proposera d’éventuelles prochaines étapes.
En outre, afin de garantir le développement éthique de l’IA, d’ici à l’automne 2019, la Commission :
- lancera un ensemble de réseaux de centres d’excellence en matière d’IA;
- entamera la création de réseaux de pôles d’innovation numérique;
- et engagera, avec les États membres et les parties prenantes, des discussions destinées à concevoir et mettre en œuvre un modèle de partage des données et d’utilisation optimale des espaces de données communs.
