L’Intelligence Artificielle est en plein essor et les technologies qu’elle a permis de développer, en évolution constante. Les problèmes éthiques que peuvent poser leur utilisation est au cœur des débats. XXII, entreprise spécialisée des Deep technologies, a annoncé la création d’une charte éthique pour l’édition de logiciels d’IA en interne et encourage l’ensemble de l’écosystème d’IA à l’adopter.
Les gouvernements travaillent à une IA éthique, morale et digne de confiance. Différentes initiatives ont été lancées au niveau français et européen : dans le cadre de la stratégie nationale pour l’IA, du nouveau projet de règlement de la Commission Européenne, du Partenariat Mondial sur l’IA (PMIA). Les biais des algorithmes peuvent entraîner des discriminations, du sexisme, de la malveillance… La vision par ordinateur est souvent incriminée, notamment pour sa technologie de reconnaissance faciale.
Le groupe XXII
XXII, société créée en 2015 par William Eldin et Dan Mulhem, est un des leaders français dans l’édition de logiciels de vision par ordinateur. Sa plateforme SaaS de déploiement et de paramétrage d’algorithmes pour l’analyse vidéo en temps réel XXIICORE est utilisée par les villes, les parcs de loisirs, les stades, les aéroports, les gares, les entreprises…
La charte éthique
Partant du constat que les solutions de vision par ordinateur soulèvent de nombreuses craintes, William Eldin, CEO et cofondateur de XXII, a travaillé avec entre le comité éthique de l’entreprise et un groupe d’experts externes constitué de philosophes spécialistes de l’IA, de membres de la sécurité publique, d’associations, d’étudiants passionnés par l’éthique et l’IA à l’établissement de cette charte. Il explique :
«L’intelligence artificielle nous offre aujourd’hui cette opportunité d’augmenter les sens, notamment la vision. En améliorant et en décuplant les performances machine, la vision assistée par ordinateur affranchit l’humain des tâches les plus complexes et fastidieuses, lui permettant ainsi de se concentrer sur des missions créatives et stimulantes. Cependant, pour éviter toute dérive, nous nous devons d’encadrer notre démarche technologique en toute transparence ; au travers d’un engagement éthique de l’utilisation de l’IA.»
Il ajoute :
«Les principes que nous avons fixés sont notre ligne de conduite à tous niveaux de l’entreprise. Ils seront respectés, appliqués et incarnés pour valoriser le savoir-faire technologique avec exemplarité.»
Pour XXII, l’exploitation de l’intelligence artificielle doit être réalisée dans le respect des droits fondamentaux et des libertés individuelles, les solutions doivent intégrer l’éthique dès leur conception. Il faut en mesurer les impacts, les anticiper et veiller à ce que les finalités d’utilisation des outils soient responsables. C’est pourquoi la société a décidé la mise en place de cette charte définissant les principes de conduite du développement de ses solutions.
Les 5 principes de la charte
- Le principe de bienfaisance
Il implique de s’assurer que l’intelligence artificielle permet de renforcer le bien-être individuel et collectif de la société ainsi que le bien commun. Ce principe implique également de s’assurer que l’IA est porteuse d’innovation et de progrès en limitant les impacts négatifs sur le bien-être des citoyens, l’impact environnemental et la consommation énergétique. - Le principe de non-malfaisance
Nos produits d’intelligence artificielle ne doivent ni porter atteinte, ni nuire, ni aggraver une situation, au vivant de quelque manière que ce soit. Les systèmes que nous mettons en place ne doivent en aucun cas menacer l’intégrité physique, morale ou psychologique de qui que ce soit, tout en étant sûrs et sécurisés pour l’utilisateur. - Le principe d’autonomie
L’utilisateur doit être en complète capacité de conserver son pouvoir de décision dans le cas d’utilisation d’intelligence artificielle. La vision par ordinateur ne doit pas contraindre, tromper ou manipuler l’utilisateur. Bien au contraire, cet outil doit aider, soutenir, favoriser l’autonomie de ses utilisateurs finaux. - Le principe de justice
L’intelligence artificielle ne doit en aucune circonstance être biaisée et ne doit pas porter préjudice à l’être humain. XXII effectue des contrôles réguliers sur la finalité, les contraintes, les exigences et les résultats des systèmes fournis. - Le principe d’explicabilité et de transparence
Ces deux notions nécessitent de mettre à disposition une documentation approfondie des solutions et technologies d’intelligence artificielle développées, déployées par XXII et utilisées par ses clients.
William Eldin explique :
«Cette charte éthique XXII énonce les grands principes de comportements individuels et collectifs qui doivent guider chaque collaborateur, quelle que soit sa fonction ou son titre au quotidien. Cette charte est la base d’un questionnement que nous voulons permanent et l’expression de notre volonté de progresser. L’objectif étant de faire évoluer continuellement nos logiciels et d’être transparent dans notre façon de développer nos produits.»
«Parce qu’un écosystème technologique bienveillant doit émerger en France et en Europe pour favoriser la confiance dans le numérique et plus précisément dans l’Intelligence Artificielle.», XXII espère que la publication de cette charte interrogera l’écosystème d’IA et l’amènera à adopter une démarche éthique respectueuse du grand public.
