Le 19 mai dernier, le parlement européen a adopté une résolution autour de l’intelligence artificielle. En parallèle de l’annonce de la toute nouvelle réglementation de la Commission européenne en matière d’IA, ce texte interviendra dans les domaines de l’éducation, de la culture et de l’audiovisuel. Ces trois domaines sont très régulièrement sujets à des innovations où l’IA est exploitée.
Les grandes lignes des observations générales de la résolution de loi
Dans la première partie de cette résolution, L’Union européenne souligne l’importance stratégique de l’IA et de ses technologies associées : en centrant ces innovations sur l’humain, en s’appuyant sur l’éthique et les droits de l’Homme. L’objectif étant que l’IA devienne un véritable outil au service de la population européenne avant une dimension éthique dès sa conception. Les notions de formation aux questions relatives à l’IA des principaux acteurs des trois domaines ainsi qu’aux concepteurs et développeurs de ces systèmes sont abordées dans ce texte.
Parallèlement à cela, l’UE affirme que l’éducation, la culture et le secteur audiovisuel sont des secteurs où l’application de l’IA peut être délicate. à plusieurs égards : discrimination, protection de la vie privée, liberté et valeur de l’UE, propriété intellectuelle, etc. Elle appelle les états membres à prendre en considération l’ensemble de ces observations, et plus particulièrement la dimension hommes-femmes lors de l’élaboration des politiques et de la législation nationale en matière d’IA.
L’UE reconnait que l’IA peut favoriser la création de contenu en matière d’éducation, d’audiovisuel ou de culture, mais souligne la nécessité de trouver un équilibre entre le développement des systèmes d’IA dans ces trois domaines et la compétitivité des entreprises d’IA dans ces secteurs.
Elle invite la Commission européenne à inclure les systèmes d’IA impliquant l’éducation comme système à haut risque dans la classification qui sera utilisé dans la future réglementation européenne sur l’IA.
L’intelligence artificielle en matière d’éducation
En matière d’éducation, l’Union européenne préconise entre autres :
- De renforcer les compétences numériques et d’atteindre un degré élevé de maîtrise des médias, du numérique et des informations au niveau de l’Union, en tant que condition préalable à l’utilisation de l’IA dans l’éducation
- De rendre disponible l’ensemble de ces outils à tous les groupes sociaux, et en particulier aux publics empêchés et handicapés. Pour l’UE, l’IA dans le système éducatif offre de multitudes de possibilités, de perspective et d’outils qui permettraient de créer de nouvelles méthodes d’apprentissages de qualité.
- Que les citoyens de l’UE puissent se familiariser avec l’IA et en acquérir une compréhension au minimum élémentaire. Des projets mettant en avant la culture numérique, des campagnes de sensibilisation à l’IA sont évoquées. Les élèves, étudiants, mais également les professeurs sont concernés pour qu’ils puissent s’adapter aux réalités de l’éducation soutenue par l’IA.
- Que l’objectif premier de l’utilisation de l’IA dans les systèmes éducations devrait être de parvenir à une éducation aussi individualisée que possible et donc favoriser les parcours académiques personnalisés.
Selon l’UE, l’innovation tarde beaucoup trop dans le domaine de l’éducation. Un constat qui a été mis en lumière par la pandémie de COVID-19 imposant aux établissements scolaires de prendre des mesures drastiques pour permettre d’enseigner à distance.
Patrimoine culturel et intelligence artificielle
Dans son texte, l’Union européenne fait également référence à la culture. En France, il est à noter que ce secteur a été durement touché par la pandémie du COVID-19. Voici les préconisations du parlement européen :
- Il conviendrait d’exploiter l’ensemble des possibilités permettant d’améliorer et de favoriser l’accès à la culture. L’objectif est de déterminer l’option la plus appropriée tout en étant cohérent avec le traité de Marrakech. Les stratégies liées à l’IA peuvent être une solution.
- Développer des technologies d’IA afin qu’elles jouent un rôle important dans la préservation, la restauration, la documentation, l’analyse, la promotion et la gestion du patrimoine culturel matériel et immatériel. Par exemple en analysant les risques liés au climat, aux catastrophes naturelles ou aux conflits armés.
- Développer des technologies d’IA pour accroître la visibilité de la diversité culturelle européenne. Un des projets allant en ce sens serait le projet Odeuropa : l’encyclopédie olfactive recensant toutes les odeurs perçues en Europe à travers l’histoire.
- Repérer les bonnes pratiques en matière de protection et d’accessibilité du patrimoine culturel, notamment pour les personnes empêchées ou handicapées.
L’IA pourrait également devenir un outil pour promouvoir le tourisme culturel et serait mis à profit dans le secteur de la recherche pour réaliser, par exemple, des analyses prédictives de données.
Une autre partie concerne les secteurs et industries de la culture et de la création. L’UE regrette que la culture ne fasse pas parties des priorités définies dans les options et recommandations précisées dans le livre blanc qui a servi de base à la future réglementation européenne sur l’IA. Elle reconnait que l’IA est susceptible de créer des emplois dans ce secteur. L’IA se manifesterait, par exemple, dans la production automatisée de textes, de vidéos ou de musique. La conception de ces outils doit se faire par des experts maitrisant le sujet, précise le texte.
L’intelligence artificielle dans le monde de l’audiovisuel
L’Union européenne relève dans sa résolution que l’IA est déjà bien présente dans ce secteur grâce les algorithmes de prise de décision automatique, aux plateformes de vidéos et aux services de streaming, avec la publicité ciblée à des fins commerciales ou le marketing personnalisé. Elle préconise entre autres :
- Que ces systèmes puissent être faciles à expliquer et qu’ils ne présentent aucun caractère discriminatoire, qu’ils respectent strictement les droits fondamentaux et le RGPD.
- Que ce qui est illégal hors-ligne doit également l’être en ligne. Certains systèmes d’IA luttent déjà contre des contenus illicites en ligne.
- Que la surveillance spécifique et générale des contenus des services de médias audiovisuels n’est pas possible conformément à la directive sur le commerce électronique
- De faire attention aux répercussions sur la diversité culturelle et linguistique que pourraient avoir les recommandations de contenu algorithmiques. On peut notamment penser à l’exception culturelle française.
Une partie est également consacrée à la désinformation en ligne et aux trucages vidéo ultraréalistes. L’UE rappelle qu’avec l’émergence des nouvelles technologies, il devient de plus en plus compliqué de détecter des contenus faux et manipulés ce qui pourrait compromettre les valeurs démocratiques fondamentales. C’est pour cela qu’elle demande à la Commission européenne d’évaluer l’incidence de ce genre de pratiques afin d’établir un cadre juridique pour que les créateurs soient, par exemple, obligés de mentionner le caractère non original du contenu.
