L’Autorité de contrôle prudentiel et de résolution (ACPR), s’intéresse aux enjeux de l’utilisation de l’intelligence artificielle dans le secteur financier et a lancé le premier Tech Sprint (hackathon), en juin et juillet 2021. Il portait sur l’explicabilité de l’intelligence artificielle et, plus concrètement, du comportement de modèles prédictifs de risque de crédit basés sur de l’IA et uniquement accessibles en “boîte noire”.
Le développement de l’intelligence artificielle s’intensifie dans le secteur financier ces dernières années. L’introduction d’algorithmes de ML vise, tant par des méthodes descriptives que prédictives, à automatiser ou améliorer la prise de décision auparavant effectuée par des humains.
L’ACPR
C’est Christine Lagarde, ministre de l’économie sous la présidence de Nicolas Sarkozy, qui a annoncé la création de l’ACPR en juillet 2009, suite à la crise financière mondiale de 2008. L’objectif pour cette nouvelle autorité est de superviser les banques et les assurances pour en garantir la stabilité financière, protéger la clientèle et renforcer l’influence française dans les instances internationales et européennes. Créée le 9 mars 2010, intégrée à la Banque de France, l’ACPR bénéficie pour son fonctionnement de moyens, notamment humains et informatique, fournis par cette dernière. En 2016, le Pôle Fintech Innovation dédié aux Fintech et à l’innovation a été créé.
Le Premier Tech Sprint
Depuis 2018, l’ACPR a engagé des travaux avec des Fintech, des grands groupes, des étudiants, des universitaires et des consultants, avec l’objectif d’apporter des éclairages sur les enjeux règlementaires soulevés par l’IA en termes de maîtrise des risques, de gouvernance et de protection de la clientèle. L’institution a notamment publié en 2020 le rapport “Gouvernance des algorithmes d’IA dans le secteur financier” qui a mis en évidence le rôle de “l’explicabilité”, fondamental dans la conception et la gouvernance des algorithmes.
L’ACPR a confié à son Pôle Fintech Innovation le soin d’organiser un premier Tech Sprint sur “l’explicabilité” de l’intelligence artificielle c’est-à-dire aux deux questions suivantes :
- Comment un algorithme fonctionne-t-il? (transparence);
- Pourquoi l’algorithme prend-il telle ou telle décision?
La question de l’explicabilité se pose d’ailleurs très concrètement dès la conception de systèmes à base d’IA. Dans cet hackathon, uniquement les modèles accessibles en boîte noire étaient considérés. Leur fonctionnement interne est masqué à l’observateur, et seules les données d’entrée (ici, la demande de crédit ou le crédit en cours) et de sortie (par exemple la probabilité de défaut prédite) sont visibles.
L’objectif : faire expliquer aux participants des modèles de risque de crédit
Les hackathons en ML ont assez souvent pour sujet les cas d’usage des modèles de risque de crédit. Le Tech Sprint s’est porté sur le risque du crédit à la consommation qui soulève des thématiques telles que la stabilité financière, la consommation des ménages, les enjeux commerciaux ainsi que des questions socio-économiques. Bertrand Peyret, Secrétaire Général Adjoint de l’ACPR et président du jury, a déclaré :
“Travailler sur un cas d’usage au plus près du réel, puisqu’il a été conçu avec les contributions d’établissements de crédit, rend l’exercice particulièrement intéressant. Il permet de démystifier les problématiques autour de l’IA, et de veiller à ce que l’humain garde la maîtrise des outils qu’il développe. Ce Tech Sprint nous a permis d’avoir une approche concrète des enjeux liés à l’usage de ces technologies.”
Déroulement du Tech Sprint
Quatre établissements de crédit (BPCE, Crédit Mutuel Arkéa, Société Générale et Younited Crédit) ont conçu des modèles prédictifs pour identifier le risque de crédit à la consommation. Afin d’expliquer ces modèles, douze équipes d’analystes sélectionnées ont interrogé leurs “boîtes noires” en développant des outils d’explication au cours d’une journée de hackathon, assistées par l’équipe du Pôle Fintech. D’autres activités étaient proposées en lien avec le thème telles qu’un exposé sur les facteurs sociocognitifs en jeu dans les explications d’IA cette même journée.
Le lendemain, les équipes ont présenté leurs solutions à un jury composé d’experts de l’ACPR et de la Banque de France. Les présentations étaient limitées à 5 minutes mais leur format libre permettait à chaque équipe d’exprimer sa créativité : slides, démo interactive, ou dans le cas d’une équipe une performance théâtralisée des explications produites par leur méthode.
Le Tech Sprint a été l’occasion de rassembler les acteurs de l’écosystème innovant, qui ont ainsi travaillé en réseau, sous l’égide de l’ACPR. Olivier Fliche, Directeur du Pôle Fintech Innovation de l’ACPR explique :
“Il était important pour nous de mobiliser la Place sur ces enjeux clés pour le futur des services financiers. Et les marques d’intérêt ont été au rendez-vous, avec deux fois plus de demandes d’inscription que de places disponibles!”
Les travaux présentés à l’issue du Tech Sprint ont été salués pour leur qualité : ils illustrent le réel savoir-faire français en matière de data science. Parmi eux, le jury a récompensé les solutions proposées par les équipes Quantmetry-Stellantis, Zelros et BourbakIA (équipe rassemblant des data scientists de plusieurs entreprises).
L’ACPR a publié un rapport début janvier 2022 qu’il est possible de télécharger sur son site.
