Lancé en janvier 2021, le programme Confiance.ai est un pilier technologique du Grand Défi « sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle ». À l’occasion de la première Journée annuelle qui se tient à Toulouse ce 6 octobre 2021, de premiers résultats ont été dévoilés, faisant état notamment d’une dynamique soutenue et d’un écosystème de partenaires toujours plus riche.
Piloté par l’Institut de Recherche Technologique (IRT) SystemX, le programme Confiance.ai est impulsé par un collectif de 13 industriels et académiques français (Air Liquide, Airbus, Atos, Naval Group, Renault, Safran, Sopra Steria, Thales, Valeo, ainsi que le CEA, Inria, l’IRT Saint Exupéry et l’IRT SystemX) et doté de 45 millions d’euros sur 4 ans. Il ambitionne de relever le défi de l’industrialisation de l’intelligence artificielle (IA) dans les produits et services critiques.
“L’IA de confiance est l’un des enjeux actuels clés du monde industriel, tant la diffusion de l’IA est rapide dans tous les secteurs et notamment ceux qui ne tolèrent pas d’erreur de décision. Nous ne pouvons qu’être extrêmement satisfaits de la dynamique qui s’est mise en place en France dans le cadre du programme Confiance.ai.
Pleinement opérationnel depuis janvier, il suscite l’engouement de très nombreuses PME et acteurs académiques venant rejoindre notre Maison Commune et apporter leurs expertises et technologies, en collaboration avec les 13 partenaires structurants à l’initiative du programme”, commente Julien Chiaroni, Directeur du Grand Défi IA de confiance du sein du Secrétariat général pour l’investissement.
Une première version de l’environnement de confiance d’ici la fin de l’année intégrant plus de 20 composants technologiques ou méthodologiques
Pour relever ces défis, les partenaires du programme se sont concentrés sur 6 premiers cas d’usage : la compréhension de scènes à partir d’une caméra, l’inspection par vision de soudure, la prédiction de demande en air liquide, l’interprétation de photos aériennes, le controle industriel visuel, ou encore l’évitement des collisions aériennes pour les systèmes d’aéronefs téléguidés.
Ces cas d’usages pratiques ont permis d’évaluer la pertinence de 20 premiers composants technologiques ou briques méthodologiques (ex : évaluation de la robustesse de réseau de neurones, quantification d’intervalles de confiance de prédictions, génération des modèles robustes à certaines perturbations, méthodes pour construire et caractériser les jeux de données, etc.), d’ores et déjà intégrés dans la première version de l’environnement de confiance développée et qui sera mise à la disposition des partenaires d’ici la fin de l’année.
Cet environnement a vocation à terme d’offrir une plateforme d’outils logiciels souveraine, ouverte, intéropérable et pérenne au service de la conception, de la validation, de la qualification, du déploiement et de la maintenance de produits et services critiques à base d’IA.
Un écosystème de plus 40 partenaires d’ici la fin de l’année
Confiance.ai s’inscrit dans une démarche ouverte et intégrative. Le programme développe et fédère aujourd’hui l’écosystème national autour de l’IA de confiance et s’est ouvert à de nombreux partenaires associés.
Au-delà des 13 acteurs structurants du programme, 11 laboratoires ont rejoint récemment le collectif après avoir été sélectionnés dans le cadre d’un AMI (appel à manifestation d’intérêt) centré sur les défis scientifiques : Institut de mathématiques de Toulouse – ANITI, CRIL – Université d’Artois, CRISTAL – CNRS, LAMIH/UPHF / CRISTAL – Université de Lille, Inria KAIROS, IRIT – Université de Toulouse, LIP6 – Sorbonne Université, LITEM – Medial Lab – IMT, LITIS – Insa Rouen, ONERA et U2IS – ENSTA Paris. Ils contribueront à la montée en maturité de travaux scientifiques ou à la résolution de verrous scientifiques amont, le plus souvent sous la forme de thèse ou de doctorat. Le programme compte déjà à ce jour 9 thèses et 4 Postdocs.
D’autres partenaires tels que Apsys, LNE, Numalis et l’ONERA sont également venus renforcer le programme, en apportant leurs expertises et technologies.
Un autre AMI à destination des start-ups deeptech et PME innovantes lancé en juillet dernier devrait permettre d’intégrer une dizaine de pépites françaises au programme dès le 4ème trimestre 2021.
Au total, un puissant collectif de plus de 40 partenaires collaborera sur les sites de Paris Saclay et de Toulouse, deux places importantes de l’IA de confiance, autour de l’élaboration de cet environnement de confiance où chacun pourra tirer de la valeur de ces travaux. Confiance.ai a la chance de pouvoir s’appuyer sur cet écosystème et en particulier sur le programme Franco-Québécois DEEL, le 3IA Aniti et l’initiative DataIA.
Un programme qui contribue au projet de règlementation européenne « AI Act » de la Commission Européenne
La commission européenne a proposé un cadre juridique afin de promouvoir une IA de confiance. Toutefois, sa mise en œuvre opérationnelle nécéssite le dévéloppement de solutions techniques permettant aux industriels d’y répondre. Confiance.ai permettra ainsi de créer un environnement technique (sur la certification, la fiabilité, l’évaluation, la transparence et l’auditabilité des algorithmes et des systèmes) qui garantira, demain, un haut de niveau de confiance dans les technologies d’IA.
