La mairie de Barcelone souhaite mettre en œuvre vingt mesures pour garantir que les algorithmes d’intelligence artificielle utilisés par la ville et ceux qui viendront à l’avenir renforcer leur portefeuille technologique, fonctionnent avec un engagement éthique. La commission de l’innovation numérique a débattu cette semaine un texte prévoyant la création d’un registre d’algorithmes public. Le document comprend également la mise en place d’un comité consultatif et d’une étude pour déterminer dans quelles branches administratives, l’IA peut être judicieusement utilisée.
Une utilisation récente de l’intelligence artificielle à Barcelone
A Barcelone, l’utilisation de l’IA au sein de la mairie et des administrations liées à la ville est toute récente. Toutefois, des tests-pilotes ont été lancés afin de voir comment des solutions intelligentes peuvent participer à l’amélioration du quotidien des habitants de la capitale catalane.
Parmi les exemples d’applications locales, on peut évoquer l’utilisation de l’IA dans le traitement de données captées par des caméras thermiques sur les plages de la ville. Ou encore la classification automatique des plaintes et des suggestions envoyées par les Barcelonais dans la boîte à idées électronique du conseil municipal de Barcelone.
La troisième adjointe de l’Agenda 2030, Transition numérique, Sports et Coordination territoriale et métropolitaine, Laia Bonet, a présenté ce 21 avril 2021, une stratégie qui limite la mise en œuvre de l’IA dans les services municipaux tout en renforçant le cadre éthique et responsable.
Des mesures pour une intelligence artificielle éthique
Le débat public sur les mesures municipales a pris en compte de nombreux points quant à l’éthique de l’intelligence artificielle. Par exemple, un des risques potentiels proviendrait des systèmes de machine learning : l’aide à la prise de décision peut déborder sur des préjugés sociaux qui pourraient être la source de discrimination, de sexisme ou de racisme.
Ce débat a été lancé le jour où la commission européenne a annoncé son projet de réglementation sur l’intelligence artificielle. Le conseil municipal de Barcelone n’envisage une utilisation de l’IA que d’une façon servant à améliorer la gestion des politiques publiques ou les tâches administratives, dans le respect de la protection des données de chacun. Les clauses pour les appels d’offres publics intégrant des systèmes intelligents ont été adoptées en ce sens.
L’ensemble des mesures proposées par la mairie de Barcelone ont pour but d’être déployées avant 2023. Le texte fait également référence à la possibilité que le code des algorithmes utilisés par l’administration puisse être disponible pour n’importe quel citoyen. A noter également la mise en place d’un programme de formation interne des employés municipaux amenés à utiliser ces algorithmes et le souhait de créer l’Observatoire international de l’intelligence artificielle urbaine, avec la collaboration du think-tank CIDOB.
