Michael Kearns, professeur de sciences informatique et de l’information à l’Université de Pennsylvanie, travaille notamment sur les sujets de l’apprentissage automatique, de la théorie algorithmique du jeu et de la finance quantitative. Membre élu de la National Academy of Sciences, de l’American Academy of Arts and Sciences, de l’Association for Computing Machinery, de l’Association for the Advancement of Artificial Intelligence et de la Society for the Advancement of Economic Theory, il interviendra en tant que conférencier lors du premier Machine Learning Summit virtuel d’Amazon Web Services qui se tiendra le 2 juin 2021.
Le premier Machine Learning Summit d’Amazon Web Services (AWS) réunira le 2 juin prochain des clients, des développeurs et la communauté scientifique pour en apprendre davantage sur les progrès de la pratique du Machine Learning (ML). Cet événement gratuit explorera quatre grandes thématiques dont la science du Machine Learning, qui mettra en lumière le travail effectué par les scientifiques AWS et Amazon pour faire progresser le ML.
Dans les semaines à venir, Amazon Science proposera des entretiens avec des intervenants sur la thématique de la science du Machine Learning. Pour la deuxième édition de la série, nous nous sommes entretenus avec Michael Kearns, Amazon Scholar et professeur de sciences informatique et de l’information à l’Université de Pennsylvanie.
Michael Kearns est le co-auteur du livre, “The Ethical Algorithm: The Science of Socially Aware Algorithm Design”, paru en 2019. Cet ouvrage explore la science de la conception d’algorithmes qui intègrent des normes sociales telles que l’équité et la confidentialité dans leur code pour protéger les humains des impacts involontaires provoqués par les algorithmes. Il est également le directeur fondateur du Warren Center for Network and Data Sciences – un centre de recherche qui cherche à comprendre le rôle des données et des algorithmes dans la formation de systèmes sociaux, économiques et technologiques interconnectés.
Quel sera le sujet de votre conférence lors du Machine Learning Summit d’AWS ?
De récentes recherches ont été publiées par la communauté ML pour aider à concevoir des algorithmes et des modèles plus « éthiques ». C’est-à-dire des approches qui obéissent à des normes sociales importantes telles que l’équité, l’explicabilité (l’obligation d’explication des décisions algorithmiques) et la confidentialité, tout en nous permettant de tirer parti des avantages de l’intelligence artificielle et du ML.
Par exemple, le dense référentiel algorithmique, connu sous le nom de confidentialité différentielle, est une méthode puissante qui permet d’ajouter des éléments aléatoires aux calculs afin de développer des modèles de Machine Learning tout en offrant de solides garanties de confidentialité individuelle.
De plus, des algorithmes de Machine Learning ont été récemment développés en se basant sur la théorie des jeux. Celle-ci peut servir à renforcer les notions d’équité de groupe relatives à l’ethnie ou au genre. Cette théorie repose essentiellement sur des domaines mathématiques qui s’intéressent aux interactions stratégiques et aux résultats collectifs dans des systèmes où les individus interagissent les uns avec les autres. Les réseaux antagonistes génératifs (en anglais Generative Adversarial Networks ou GAN) sont un modèle dans lequel deux réseaux sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau appelé générateur, produit un échantillon de données proche de l’ensemble de données réel, tandis que le discriminateur détecte si un échantillon est réel ou s’il est le résultat du générateur.
Pourquoi ce sujet est-il particulièrement pertinent au sein de la communauté scientifique aujourd’hui ?
Tout le monde a remarqué les préoccupations croissantes de notre société concernant les méfaits et les abus potentiels de l’intelligence artificielle et du Machine Learning.
Si ces préoccupations appellent à un renforcement des lois et des réglementations relatives à la technologie, la science que j’aborderai au cours de mon intervention le 2 juin lors du Summit ouvre la voie à une solution alternative et complémentaire : la conception d’algorithmes et de modèles plus éthiques qui se “comportent mieux” dès le départ.
Une partie de cette science est relativement mature – avec notamment la confidentialité différentielle évoquée précédemment. D’autres approches commencent à émerger, comme les efforts visant à rendre les modèles de ML plus « interprétables » ou « explicables ». Nous devons davantage explorer ces sujets pour développer une compréhension comportementale plus approfondie sur la façon dont les gens utilisent et interprètent les modèles prédictifs.
Alors que nous forgeons une nouvelle science de la conception d’algorithmes plus éthiques, quels sont les trois développements que vous trouvez passionnants ?
La science relative au ML ouvre réellement la voie à un nouvel ensemble de techniques algorithmiques qui équilibrent nos objectifs de précision et d’utilité avec certaines des principales préoccupations sociétales liées à l’IA et au ML.
Par ailleurs, nous commençons à voir des adoptions à grande échelle de cette science dans des applications concrètes. Par exemple, l’adoption par le Bureau du recensement américain en 2020 de la confidentialité différentielle ou le nouveau service Amazon SageMaker Clarify, qui permet la détection de biais dans les modèles ML et la compréhension des prédictions des modèles
Enfin, au cours de la dernière décennie, nous avons vu émerger une communauté véritablement interdisciplinaire autour de ces problèmes, qui comprend et a besoin de chercheurs en ML, d’experts juridiques et réglementaires, de législateurs, de spécialistes des sciences sociales, de groupes de défense des libertés et même de philosophes. Cela rend le travail sur ces sujets amusant, passionnant, éducatif – et au final incroyablement impactant.
Vous pouvez assister à la conférence de Michael Kearns lors du Machine Learning Summit virtuel d’Amazon Web Services le 2 juin en vous inscrivant à l’événement. Si vous souhaitez être informé.e de l’ouverture des inscriptions, rendez-vous sur le site de l’évènement.
