Timnit Gebru, chercheuse spécialisée en éthique de l’intelligence artificielle et particulièrement sur les biais algorithmiques, a annoncé début décembre, le lancement d’un institut de recherche en IA baptisé DAIR (Distributed Artificial Intelligence Research). DAIR a pour objectif de développer l’éthique de l’IA et notamment des applications qui peuvent avoir un impact positif sur les groupes de personnes marginalisées. Cet institut indépendant ancré dans l’écosystème viserait également à contrer l’influence omniprésente des géants de la tech en matière de recherche, développement et déploiement de l’IA.
Timnit Gebru est une chercheuse reconnue en éthique de l’intelligence artificielle. Née à Addis-Abbeba en Ethiopie en 1983, elle a émigré aux États-Unis à l’âge de 16 ans et suivi des études en génie électrique à l’Université de Standford où elle a obtenu un doctorat en informatique au laboratoire d’intelligence artificielle en 2017. Elle a ensuite réalisé un post-doctorat chez Microsoft au sein du laboratoire FATE (Fairness, Accountability, Transparency and Ethics in AI), dédié à l’égalité, la transparence et l’éthique en IA avant de co-diriger l’équipe sur l’éthique dans l’IA de Google. Poste duquel elle aurait été licenciée l’an dernier pour avoir ouvertement critiqué la politique de recrutement des minorités du groupe et les biais des systèmes d’IA contraires, selon elle, à l’éthique.
Un moratoire sur certaines applications de l’IA
Le sujet de l’éthique de l’IA est centrale. La question a été abordée par l’UNESCO dans sa recommandation adoptée en novembre mais également au sein de la Commission européenne ou encore de l’ONU. Michelle Bachelet, Haute-Commissaire des Nations unies pour les droits de l’homme, a lancé en septembre dernier un appel pour l’instauration d’un moratoire sur certaines applications de l’IA : le profilage, la reconnaissance faciale, la prise de décision automatisée et des technologies d’apprentissage automatique.
“Ces technologies d’intelligence artificielle peuvent avoir des effets négatifs, voire catastrophiques, s’ils sont utilisés sans prendre en compte suffisamment la manière dont ils affectent les droits humains” et nécessitent donc d’être encadrées.
Selon un rapport publié le 13 septembre par le Conseil des droits de l’homme de l’ONU, les bases de données utilisées pour entrainer les technologies d’IA contiennent déjà des biais qui, non corrigés, se transmettent à la machine et renforcent les discriminations. De nombreux exemples sont disponibles sur ces dérives de l’IA, notamment dans le recrutement, les aides sociales, ou même des arrestations à cause de systèmes de reconnaissance faciale mal entrainés.
L’institut DAIR : reprendre le contrôle sur l’IA
C’est en ce sens, et un an tout juste après avoir été évincée de l’équipe d’IA éthique de Google, que Timnit Gebru a annoncé le lancement de DAIR. Cet institut se veut une réponse au besoin d’espaces indépendants où les chercheurs du monde entier peuvent définir l’ordre du jour et mener des recherches sur l’IA enracinées dans leurs communautés et leurs expériences vécues.
Selon la chercheuse, les dommages inhérents à l’IA sont évitables et pour une IA bénéfique pour tous, il faudrait remettre en question les processus utilisés par des entreprises comme Google, Amazon ou encore Meta. Pour avoir une meilleure IA, les chercheurs du secteur doivent être libres de publier les résultats de leurs travaux sans dépendre d’une multinationale.
Avec DAIR, Timnit Gebru vise à créer un environnement indépendant des structures et des systèmes qui incitent au profit plutôt qu’à l’éthique et au bien-être individuel. Elle explique :
“L’IA doit être ramenée sur terre. Elle a été élevée à un niveau surhumain qui nous porte à croire qu’elle est à la fois inévitable et hors de notre contrôle. Lorsque la recherche, le développement et le déploiement de l’IA sont ancrés dans les personnes et les communautés dès le départ, nous pouvons faire face à ces méfaits et créer un avenir qui valorise l’équité et l’humanité.”
Une IA d’intérêt public
Le travail de chercheurs indépendants et d’instituts de recherche, comme DAIR, est essentiel. L’institut est financé par la Fondation Ford, la Fondation John D. et Catherine T. MacArthur, le Centre Kapor et la Fondation Open Society. Ces organismes soutiennent depuis longtemps des individus et des organisations, y compris Timnit Gebru, travaillant à développer le domaine de la technologie d’intérêt public, un domaine émergent axé sur l’exploitation de la puissance de la technologie pour le bien public. Ils espèrent que DAIR apportera encore davantage de technologues d’intérêt public, renforçant ainsi le mouvement vers une technologie inclusive et équitable.
Darren Walker, président de la Fondation Ford, a déclaré :
“Comme nous continuons de le constater, lorsque la technologie est créée et déployée de manière irresponsable, elle peut exacerber les systèmes de préjugés et de discrimination avec une vitesse et des effets choquants. Le travail des chercheurs indépendants est essentiel pour garantir que la technologie a atteint son potentiel pour lutter contre les inégalités, favoriser l’inclusion et générer des opportunités. Le lancement et la direction de Dair par Timnit Gebru feront progresser le domaine de la technologie d’intérêt public et garantiront le mouvement vers une IA d’éthique ne prend pas seulement en compte, mais donne la priorité aux voix des communautés touchées à travers le monde.”
John Palfrey, président de la Fondation MacArthur, a déclaré de son côté :
“Dr. Gebru est un chercheur et défenseur pionnier de l’IA qui a aidé à mieux comprendre les dommages que les technologies de l’IA peuvent potentiellement causer, notamment le renforcement du racisme et d’autres formes de discrimination. Pour façonner un avenir plus juste et équitable où l’IA profite à tous, nous devons accélérer la recherche indépendante d’intérêt public, libre de contraintes d’entreprise, et qui concentre l’expertise de personnes historiquement exclues du domaine de l’IA. MacArthur est fier de soutenir la vision audacieuse du Dr Gebru pour l’Institut DAIR d’examiner et d’atténuer les dommages causés par l’IA, tout en élargissant les possibilités des technologies de l’IA pour créer un avenir technologique plus inclusif.”
Pour Allison Scott, Ph.D, Pdg de Kapor Center :
“Des chercheurs en IA comme le Dr Timnit Gebru nous ont montré que les algorithmes numériques fonctionnant en coulisses peuvent être truffés de biais dans la conception et le déploiement, avec de profonds effets négatifs sur les communautés de couleur dans l’emploi, la police, le logement, la santé et la participation civique. Nous avons compris depuis longtemps l’importance de la recherche orientée vers l’action pour stimuler le plaidoyer en matière de technologie. Et à ce moment crucial, nous sommes ravis de soutenir et de collaborer avec le Dr Gebru et DAIR pour accroître la recherche et le plaidoyer sur la lutte contre les biais algorithmiques et garantir que la promesse et le potentiel de la technologie sont exploités pour créer un avenir plus équitable.”
Quant à Mark Malloch-Brown, président des Open Society Foundations, il précise :
“Il s’agit de faire le travail acharné nécessaire pour garantir qu’une réelle responsabilité et équité soient intégrées dans les futurs projets d’IA, plutôt que comme une réflexion après coup. Nous devons trouver un moyen de garantir que les garanties fondamentales qui traitent de la responsabilité et de l’équité soient au premier plan du développement de tous les futurs projets d’IA. Nous sommes fiers de faire partie d’un mouvement mondial croissant qui demande des comptes à l’utilisation de la technologie et travaille à développer les outils et les connaissances collectifs dont nous avons besoin pour vérifier que l’IA fait progresser, plutôt que de nuire, l’intérêt public.”
