Fin août, le Conseil d’Etat a publié une étude adoptée en assemblée générale plénière le 31 mars dernier portant sur l’utilisation de l’IA au sein des services publics. Menée à la demande en juin 2021 de Jean Castex, alors 1er Ministre, intitulée « Intelligence artificielle et action publique : construire la confiance, établir la performance », elle plaide pour la mise en œuvre d’un déploiement de l’IA résolument volontariste, au service de l’intérêt général et de la performance publique.
Selon le Conseil d’Etat, dans une acception étroite très répandue, dite « IA connexionniste », les systèmes d’IA (SIA) sont limités à l’apprentissage automatique. Il a opté de son côté pour une acception plus large, d’ailleurs privilégiée par le projet de règlement européen, pour cette étude, dite « IA symbolique » incluant des systèmes dont les règles de fonctionnement sont paramétrées explicitement par l’homme mais disposant d’une certaine latitude pour déterminer la solution satisfaisante ou optimale d’un problème complexe (exemple des systèmes-experts).
Le Conseil d’Etat relève que le secteur public ne bénéficie pas, dans le domaine de l’innovation numérique, du même capital confiance que les entreprises alors que peu d’études se sont penchées sur son utilisation de l’IA. Il déclare même que « Si l’IA fait couler beaucoup d’encre, plus ou moins sympathique, la question de son utilisation dans la sphère publique demeure, quant à elle, assez peu étudiée. Le nombre modeste de rapports et d’articles spécifiquement consacrés au déploiement des outils basés sur l’intelligence artificielle dans l’action publique contraste singulièrement avec le battage médiatico-scientifique général que suscite ce thème. Comme si l’administration était vouée à en rester un acteur de second plan, agissant dans l’ombre des géants privés du numérique, au risque d’ailleurs de s’exposer au soupçon et au procès d’intention, qu’il s’agisse du remplacement subreptice de l’agent public par la machine ou des velléités de surveillance de masse de la population. »
Prendre conscience du potentiel de performance des systèmes d’IA et de sa sous-exploitation par les collectivités publiques
L’IA ne se déploie encore que très progressivement dans les services publics et souvent de façon expérimentale, mais un plus grand déploiement de l’IA améliorerait la qualité du service public sur de nombreux points : la continuité du service public 24h/24, la pertinence des décisions et prestations délivrées ou de l’égalité de traitement, réduction des délais d’examen des demandes des usagers…
La cartographie du Conseil d’Etat sur l’usage des SIA au sein des services publics démontre qu’ aucun n’est imperméable à ces systèmes et n’a, a priori, pas vocation à l’être. Elle donne pour exemple divers domaines dans lesquels les SIA sont d’ores et déjà opérationnels :
- La gestion des territoires : circulation automobile, entretien de la voirie, gestion des déchets, de l’eau, de l’éclairage public, du nettoyage urbain, navette autonome…;
- La défense et la sécurité : détection de forces militaires sur des images aériennes et satellite, prévention des attaques informatiques, détection de la désinformation d’origine étrangère avec Viginum, lecture automatisée de plaque d’immatriculation, anticipation des catastrophes naturelles par les services de secours, reconnaissance faciale de suspects ou de victimes par la police judiciaire… ;
- Les activités de contrôle et de lutte contre la fraude : ciblage des contrôles fiscaux et douaniers, contrôle aux frontières, détection de constructions non autorisées sur des images satellite… ;
- La justice : pseudonymisation des jugements, recherche documentaire, évaluation des préjudices en cas de dommage corporel… ;
- La politique de l’emploi : appariement entre offre et demande d’emplois, personnalisation de l’accompagnement… ;
- L’éducation : prévention du décrochage scolaire, affectation en première année de l’enseignement supérieur… ;
- La protection sociale : liquidation des prestations, identification du non-recours aux droits… ;
- La santé : aide au diagnostic et à la prescription médicale, alertes sanitaires, robotique médicale…
L’étude souligne cependant qu’à l’instar de ses voisins européens, la France ne vit pas une révolution de l’IA publique, mais connaît un déploiement très progressif des SIA dans les services publics, très inégal selon les administrations et souvent expérimental.
Conduire une stratégie volontariste et lucide de déploiement de l’IA publique de confiance
L’IA a le potentiel de renforcer la relation humaine entre le citoyen et l’agent public en dégageant du temps grâce à l’automatisation de certaines tâches (accusés de réception, demande de documents supplémentaires, etc.) et d’améliorer la qualité du service par l’accomplissement de tâches jusque-là matériellement impossibles. L’étude considère que la France ne doit pas attendre passivement le moment de conduire une stratégie de conception et de déploiement résolument volontariste mais le créer.
Elle souligne toutefois que pour en tirer des bénéfices, il faut tout d’abord créer les conditions de la confiance.
L’acceptabilité des SIA publics n’est pas acquise et ne le sera sans doute jamais entièrement, que ce soit par les citoyens ou les agents publics alors que ces derniers devraient donner l’exemple. Le Conseil d’Etat souligne qu’il « est impératif et urgent de rehausser le niveau de compréhension des citoyens comme des agents publics sur ce qu’est et ce que n’est pas l’intelligence artificielle, sur ce que ces systèmes permettent de faire ou d’espérer et ce qui leur est inaccessible, sur leur potentiel et les risques qu’ils comportent. »
L’étude propose à cet égard sept principes de l’IA publique de confiance, qui doivent être conciliés entre eux et appellent des arbitrages, et à la mise en œuvre desquels il importe d’associer autant que possible l’ensemble des parties prenantes, en particulier les partenaires sociaux, et les représentants des usagers-citoyens :
- La primauté humaine: les SIA publics sont des outils au service de l’humain, leur mise en service ne doit pas être disproportionnée au regard des bénéfices qui en sont attendus. En outre, l’humain doit se porter garant du bon fonctionnement du SIA en le supervisant (grâce à des mesures techniques, juridiques, de formation et de gouvernance), notamment en cas de recours à un outil d’aide à la décision ;
- La performance ;
- L’équité et la non-discrimination ;
- La transparence ;
- La sécurité ;
- La soutenabilité environnementale ;
- L’autonomie stratégique.
Elaborer des lignes directrices de l’IA publique de confiance
La France doit anticiper la mise en place d’un cadre réglementaire, notamment au niveau européen, à travers la mise en œuvre, dès aujourd’hui, de lignes directrices pragmatiques permettant un déploiement progressif de l’IA dans les services publics, lucide et vigilant, au plus près des besoins des Français.
L’étude préconise une transformation profonde de la CNIL afin qu’elle devienne l’autorité de contrôle nationale responsable de la régulation des systèmes d’IA, notamment publics.
Lever les freins au déploiement des systèmes d’IA
Pour le Conseil d’Etat, ces systèmes ne résoudront pas à eux seuls les immenses défis auxquels la France est confrontée pas plus qu’ils ne doivent être le prétexte à la banalisation d’une complexité administrative et juridique gérée par la machine.
En outre, le potentiel considérable de ces systèmes ne doit pas faire perdre de vue leur complexité et la technicité de leur conception, qui ne s’improvise pas. Il faut libérer le potentiel de valeur de la donnée, former des datascientists et les retenir, piloter une stratégie RH de l’IA publique. L’étude a mis en lumière une culture de l’IA faible, voire inexistante, chez la plupart des agents publics, y compris à haut niveau de responsabilité. Le Conseil d’Etat considère que la structure hiérarchique des services exige une formation immédiate de tous les cadres dirigeants de la fonction publique et que compte tenu de l’évolutivité rapide des techniques, une formation continue sera elle aussi essentielle.
Un renforcement d’Etalab, département de la Direction Interministérielle du Numérique (DINUM) qui coordonne la conception et la mise en œuvre de la stratégie de l’État dans le domaine de la donnée, et du coordonnateur national pour l’IA, en lien avec l’intervention de l’Agence nationale de la cohésion des territoires, permettrait de faire de l’Etat un prestataire de services et pourvoyeur de ressources, y compris humaines, pour les collectivités territoriales.
