L’Agence de la sécurité aérienne de l’Union européenne (EASA) avait lancé un appel d’offres pour le projet de recherche « Machine Learning Application Approval » (MLEAP) financé par le programme de recherche et d’innovation Horizon Europe. Elle a sélectionné APSYS, une filiale d’Airbus, pour mettre en œuvre le projet MLEAP en partenariat avec LNE & NUMALIS.
Airbus a décidé en juillet dernier de fusionner les activités de services d’Airbus Cybersecurity et d’Apsys, spécialisée dans la sécurité et la gestion des risques industriels, et a créé Airbus Protect qui est donc le chef de file du projet pour les deux années à venir.
Le Laboratoire National de Métrologie et d’Essais (LNE) et Numalis, une société française éditrice de logiciels innovants fournissant des outils et des services visant à rendre l’IA fiable et explicable, collaborent donc avec Airbus Protect sur le projet depuis mai 2022. Celui-ci porte sur l’approbation de la technologie de machine learning (ML) pour les systèmes destinés à être utilisés dans des applications liées à la sécurité dans tous les domaines couverts par le règlement de base de l’EASA et est financé par le programme Horizon Europe à hauteur de 1 475 400 €.
L’EASA s’intéresse aux applications potentielles basées sur le machine learning et le deep learning dans des applications critiques pour la sécurité depuis plusieurs années, elle a d’ailleurs publié sa feuille de route sur l’intelligence artificielle en février 2020, suivie d’un document de réflexion : « First usable guidance for level 1 machine learning applications » en avril 2021. Ce document conceptuel présente un premier ensemble d’objectifs pour l’IA de niveau 1 (assistance à l’homme), afin d’anticiper les futures orientations et exigences de l’EASA pour les applications d’apprentissage automatique (ML) liées à la sécurité.
Les objectifs du projet
Les partenaires se concentreront sur la rationalisation des processus de certification et d’approbation en identifiant des moyens concrets de conformité aux objectifs d’assurance de l’apprentissage des lignes directrices de l’EASA pour les applications d’IA/ML (niveaux 1, 2 et 3 tels que définis dans la feuille de route de l’EASA sur l’IA), en mettant l’accent sur les niveaux 1B (assistance à l’humain renforcée) et 2 (collaboration homme/machine). Au niveau 3, la machine devient plus autonome.
L’effet à moyen terme du projet sera d’alléger certaines restrictions restantes à l’acceptation des applications ML dans les applications critiques pour la sécurité.
Les résultats escomptés
Les résultats de la recherche consisteront en un ensemble de rapports identifiant un ensemble de méthodes et d’outils pour aborder les trois sujets majeurs suivants :
- Garanties sur la « généralisation du modèle d’apprentissage automatique »
- Garanties sur « l’exhaustivité et la représentativité des données »
- Garanties sur la robustesse de l’algorithme et du modèle
Parallèlement au projet, au moins un cas d’utilisation de l’aviation à l’échelle réelle devra être développé pour démontrer l’efficacité et la facilité d’utilisation des méthodes et outils proposés.
Le travail sera réparti comme suit :
- Tâche 1 : Méthodes et outils pour l’évaluation de l’exhaustivité et de la représentativité des ensembles de données (formation, validation et test) dans le ML et l’enseignement à distance axés sur les données;
- Tâche 2 : Méthodes et outils de quantification des garanties de généralisation pour les modèles ML et DL;
- Tâche 3 : Méthodes et outils pour la vérification d’un algorithme de ML et de la robustesse/stabilité d’un modèle;
- Tâche 4 : Communication, diffusion, partage des connaissances, gestion des parties prenantes;
- Tâche 5 : Gestion de projet.
