Comment mieux encadrer l’intelligence artificielle, lutter contre les biais et les dérives et œuvrer pour la mise en place d’une IA de confiance basée notamment sur la transparence, sans entraver l’innovation ? Pour répondre à ces question, le Think Tank Digital New Deal a présenté son rapport « IA de confiance, opportunité stratégique pour une souveraineté numérique et industrielle ». Les auteurs ont développé 18 propositions pour mieux encadrer l’IA et mettre en avant une « IA des Lumières ».
Nous avons posé 5 questions à Julien Chiaroni, Directeur Grand Défi en Intelligence Artificielle au Secrétariat général pour l’investissement, et Arno Pons, du Think Tank Digital New Deal.
En quelques mots, pouvez-vous nous présenter le think tank Digital New Deal et son rôle dans le paysage numérique français et européen ?
Le rôle de notre think tank est de participer à la création d’un « Numérique des Lumières », européen et humaniste, en éclairant les décideurs publics et privés sur les enjeux de souveraineté numérique.
Nous sommes pleinement dédiés aux questions liées à la centralisation des pouvoirs et à la captation de la valeur par les « Big Tech ». Nous apportons des solutions concrètes via la régulation et la coopération. Notre activité de publication et de plaidoyer a un impact assez considérable : par exemple, amende de 2,4 milliards contre Google Shoppings, taxe GAFA, etc.
Qu’appelez-vous le « do-tank » ?
Notre activité Do-Tank est le prolongement naturel du think tank.
Elle vise à créer une « 3e voie numérique », alternative aux offres américaines et chinoises, en accompagnant les filières économiques et les collectivités dans la constitution d’écosystèmes de confiance. Le Do-Tank met en place des alliances technologiques, comme la constitution d’un « data space » dans le cadre de Gaia-X.
Comment met-on en place une labellisation de l’IA ?
La labellisation de la confiance est une clé de l’écosystème de confiance, car elle permet aux industriels d’attester de leur conformité à la loi. Elle est systémique dans le sens où l’inverse (l’autolabellisation privée) amplifie l’opacité des entreprises monopolistiques.
C’est une chaîne de confiance, avec des organismes à chaque étape, qui doit respecter une « séparation des pouvoirs » entre chacune : valeurs dans les chartes, réglementation traduite dans des normes harmonisées, labels de mécanismes complémentaires d’audit, de certification et d’enquête. Notre recommandation est donc de privilégier une labellisation officielle / étatique et de fédérer les écosystèmes pour créer un NIST ou LNE européen, capable de délivrer des labels pour l’UE à vocation extraterritoriale.
Quels sont les principes et valeurs que vous rattachez à « l’IA des Lumières » ?
L’enjeu est d’éviter que des biais algorithmiques ne deviennent des biais économiques (IA américaine purement marchande et servant les intérêts des oligopoles de la Silicon Valley) ou politiques (IA chinoise qui surveille et note les citoyens au nom des intérêts d’un pouvoir totalitaire).
L’IA des Lumières est, au contraire, une IA européenne, éthique, transparente, qui respecte nos valeurs humanistes. Le grand public et les acteurs économiques doivent en effet avoir « confiance » dans ces IA, qui régissent leurs vies (accès crédit conso, recommandation d’emplois, santé …).
C’est une question de souveraineté, mais aussi de compétitivité, en particulier pour nos industries qui peuvent faire de l’IA de confiance une opportunité de (re)conquête de marchés jusqu’ici trustés par les Big Tech.
Quels sont les axes stratégiques présentés dans le rapport qui permettront de renforcer la confiance envers l’IA ?
Pour renforcer la confiance dans l’IA, nous devons créer les conditions de la confiance via la régulation et créer un écosystème de confiance via la coopération. Le fil rouge de ces recommandations, c’est la question de la gouvernance.
Nous proposons de nous doter d’organes qui n’existent pas encore aujourd’hui : une gouvernance IA-Data commune et une alliance industrielle IA (comme il en existe sur la Data avec Gaia-X).
Un point fort de notre rapport, c’est la proposition de créer une InfraTech (réunissant les startups innovantes d’infrastructures logicielles). Le but étant de constituer une couche intermédiaire qui permettra d’abaisser le coût d’accès au marché (« level playing field ») et d’endiguer et surtout conquérir le marché des Big Tech (qui profitent de l’effet « winner takes all » ).
L’InfraTech est un potentiel levier de scalabilité pour la FrenchTech et l’industrie européenne si nous réussissons à constituer cette offre packagée de bout en bout permettant de faire de la multitude une offre crédible face aux monopoles des GAFAM.
