EIT Digital a présenté son troisième rapport de sa série Policy Perspective. Il aborde la manière dont l’Europe devrait gérer l’intelligence artificielle et fournit aux décideurs économiques et politiques un instrument d’analyse d’impact basé sur des scénarios pour l’élaboration de politiques d’IA.
Le rapport d’EIT Digital explore l’impact de l’intelligence artificielle en général ainsi que dans des domaines d’application plus spécifiques et stratégiques pour l’Europe : santé, fabrication, climat et mobilité. Dans tous ces domaines, il identifie à la fois les opportunités générales et spécifiques au secteur et les préoccupations concernant le déploiement ultérieur de l’IA. Il se termine par une évaluation de l’impact sur le potentiel d’innovation, l’équité, la confiance et les opportunités de croissance.
Les principales recommandations du rapport
- Pour garantir une politique efficace dans le domaine de l’IA, il est nécessaire de prendre en compte le contexte (secteurs d’application).
- Les politiques concernant l’application de l’IA sur les données personnelles devraient être autorisées à différer des politiques concernant l’application de l’IA sur les données machine, en particulier dans certains secteurs d’application.
- Une réglementation générale ou des mesures politiques peuvent être envisagées en relation avec la transparence et l’explicabilité des algorithmes.
- La réglementation doit être adaptable et flexible, tout en minimisant et en atténuant les risques et en garantissant les droits de l’homme et les valeurs européennes.
Le rapport est le résultat d’un effort combiné de cinq EIT Knowledge and Innovation Communities – EIT Manufacturing , EIT Urban Mobility , EIT Health , EIT Climate-KIC et EIT Digital en tant que coordinateur.
Augmenter l’impact positif des applications d’IA
Outre les recommandations susmentionnées, le rapport liste plusieurs principes qui pourraient contribuer à augmenter l’impact positif des applications d’IA :
- La gestion de la confidentialité soutenue par l’IA : La souveraineté des données pourrait être soutenue par le développement d’un écosystème où tous les transferts de données seront effectués avec une conformité garantie au RGPD, sous l’audit du régulateur. Les données personnelles seront sous le contrôle du sujet et stockées dans un cloud. Il peut être transféré avec consentement / contrat entre le sujet et d’autres parties. La gestion du consentement sera effectuée avec le support de l’IA (un gardien de gestion des données personnelles de l’IA) qui acceptera automatiquement l’échange de données s’il est conforme au RGPD standard et / ou accepté une fois par le sujet pour une telle situation. Lorsque l’agent d’IA conclut qu’il y a un doute, le sujet sera averti et donne son consentement ou non, enseignant ainsi à l’agent d’IA pour l’avenir. Des projets de R&I pourraient être encouragés pour développer ces idées.
- Contrôles contrefactuels et explicabilité de l’algorithme : Il s’agit d’une approche proposée par Watcher et al où ils disent qu’il y a trois objectifs : informer et aider une personne affectée à comprendre pourquoi une décision particulière a été prise; leur fournir des motifs pour contester des décisions défavorables; et les aider à comprendre comment atteindre un résultat compte tenu du modèle de prise de décision actuel. Cela nécessiterait une réglementation ainsi que des politiques et des actions de R&I.
- Réglementation basée sur un bac à sable : La réglementation devrait inciter à utiliser une approche bac à sable lors du déploiement de l’IA, similaire aux études cliniques de phase I à III sur les médicaments. Dans un bac à sable, les problèmes potentiels pourraient être identifiés et la confiance établie avant un déploiement généralisé. Les règles d’une méthodologie sandbox pourraient être différentes selon les secteurs, avec dans le secteur de la santé un système proche des processus d’approbation par étapes actuels pour les médicaments et les équipements.
Télécharger le rapport d’EIT Digital : ICI.
