En amont du Sommet mondial de l’IA de Paris, le Conseil économique, social et environnemental (CESE) a adopté hier à 99 voix pour, 22 abstentions et 10 voix contre, l'avis "Pour une IA au service de l’intérêt général". Ce document propose un cadre d’acceptabilité inédit pour le déploiement de l’IA dans la société française. Élaboré par une commission temporaire composée de conseillers issus de la société civile organisée et de 10 citoyens tirés au sort, cet avis offre une contribution sur l’impact de l’IA dans des domaines clés tels que le travail, la santé, l’éducation et les services publics. Troisième assemblée constitutionnelle de la République française, le CESE assure le lien entre les pouvoirs publics et les citoyens. Ses 175 membres, répartis en divers groupes de travail, sont désignés pour 5 ans par des syndicats, des organisations patronales, des associations ou des ONG. Il peut également associer à ses travaux des citoyens tirés au sort et organiser des conventions citoyennes ou des consultations en ligne.

Les travaux adoptés par le Bureau sont ensuite publiés au Journal Officiel et transmises au Gouvernement et au Parlement afin de les éclairer dans l’élaboration des politiques publiques.

Quatre critères pour une IA à l’écoute de la société

Le CESE souligne l'importance de garantir que l'IA soit déployée de manière responsable, éthique et durable. Pour garantir que l’IA serve réellement l’intérêt général, il identifie quatre critères fondamentaux :
  • Compatibilité avec les limites planétaires : Intégrer l’impact environnemental dans la conception et l’usage des technologies d’IA ;
  • Progrès social : Promouvoir une IA qui améliore les conditions de vie et réduit les inégalités ;
  • Enjeux économiques : Soutenir la création de valeur tout en évitant les effets pervers tels que la précarisation de l’emploi ;
  • Respect des droits fondamentaux : Garantir libertés individuelles, transparence et équité.

Des recommandations concrètes et inclusives

Le CESE propose 32 préconisations clés, parmi lesquelles :
  • Prioriser l’utilité sociétale
L’IA doit être d’abord envisagée comme un outil au service de besoins essentiels (santé, éducation, accessibilité). Son impact sur les conditions de travail, qu'il ait des effets positifs (automatisation de tâches répétitives, optimisation de l'efficacité...) ou négatifs (sentiment de perte de compétence, surveillance excessive...), doit être mesuré et régulièrement discuté.

Le CESE préconise donc d'inclure l'IA dans le dialogue social et recommande la mise en place d'un accord national interprofessionnel (ANI) sur les modalités de déploiement de l'IA dans les entreprises. Cet accord, négocié par tous les partenaires sociaux, doit assurer un déploiement maîtrisé de l'IA, au service des travailleurs et en adéquation avec les besoins identifiés.

  • Former et inclure
32% de la population française, soit 16 millions de personnes, se considère éloignée du numérique. Le CESE prône un plan national de formation au numérique et à l’IA, adapté à tous les âges. Les usages et les risques potentiels de l’IA devront par ailleurs être intégrés au plan national de formation du personnel éducatif, des médiateurs numériques, des travailleurs sociaux et des agents publics.
  • Renforcer le choix citoyen
Pour que les citoyens puissent faire des choix éclairés quant au déploiement de l'IA, il est  crucial de les sensibiliser à ses impacts environnementaux, tels que la consommation d’énergie, d’eau et de ressources pour les infrastructures d’IA, et de les former à un usage plus frugal de l'IA. Le CESE souligne la nécessité de prendre en compte les conflits potentiels liés à l’implantation de nouveaux centres de données, appelant à une communication transparente sur les conséquences associées et à une réelle considération des retours citoyens.

L’IA ne doit pas être imposée : les services publics doivent préserver une option humaine, pour garantir l’universalité de l’accès au service public et la liberté de choix de tous.

  • Assurer la transparence et l'explicabilité de l'IA
Selon le CESE, les biais intrinsèques des IA, liés aux jeux de données et aux choix des concepteurs, confèrent à ces technologies une dimension politique. Il appelle à garantir la transparence et l'explicabilité des décisions et des résultats produits par les IA. Il préconise également de renforcer les exigences de la réglementation européenne en matière de transparence des algorithmes et des données d'entraînement, de diversifier ces dernières pour limiter les biais, et de clarifier les règles de protection des données personnelles en conformité avec le RGPD.