Le 29 juin 2021, l’Organisation mondiale de la santé (OMS) a publié son rapport consacré à la gouvernance et à l’éthique de l’intelligence artificielle appliquée à la santé. Sa parution est le résultat de deux années de consultations menées par un groupe d’experts internationaux choisis par l’OMS. Ce document suit les dernières orientations annoncées par l’organisme qui considère l’IA comme un espoir pour améliorer la prestation de soins et la médecine dans le monde entier.
L’intelligence artificielle : grand espoir pour l’amélioration des soins de santé et de la médecine pour l’OMS
Dans ses propos, le Dr Tedros Adhanom Ghebreyesus, directeur général de l’OMS, a précisé tout l’intérêt de l’intelligence artificielle dans le monde de la science :
“Comme toute nouvelle technologie, l’intelligence artificielle présente un immense potentiel pour améliorer la santé de millions de personnes dans le monde, mais comme pour toute technologie, il peut aussi en être fait mauvais usage et elle peut entraîner des effets préjudiciables. Ce nouveau rapport, d’une importance capitale, constitue un guide précieux pour les pays qui souhaitent maximiser les avantages de l’IA, tout en en minimisant les risques et en en évitant les pièges.”
Le rapport propose plusieurs recommandations, constats et avertissements autour de l’IA appliqué au domaine de la santé et de la médecine. L’OMS affirme que l’IA peut servir à améliorer la rapidité et la précision du diagnostic et du dépistage des maladies, à renforcer la recherche dans ce domaine, à accélérer la mise au point de nouveaux médicaments, à faciliter les soins cliniques ou à soutenir diverses interventions en matière de santé publique.
Ce document précise également qu’il ne faut pas surestimer les avantages de l’IA dans la santé surtout si cette technologique vient supplanter des investissements et des stratégies de base nécessaires pour parvenir à la couverture sanitaire universelle. Un autre défi de l’intégration de l’IA pour l’OMS est celui de l’éthique : une collecte et une utilisation responsables des données relatives à la santé, la cybersécurité, l’environnement, le choix correct des biais introduits dans les algorithmes et l’évaluation des risques pour la sécurité des patients sont des points très importants à soulever.
À noter que l’OMS prend en compte la diversité et le contexte socio-économique dans le dossier qu’elle propose. Elle précise que les modèles proposés recueillant des données et fonctionnant dans les pays à revenus élevés peuvent n’être pas aussi efficaces auprès de populations de pays à revenus intermédiaires ou faibles. L’importance d’une formation aux compétences numériques pour les agents de santé a été soulignée.
Six principes directeurs autour du recours croissant à l’IA dans le domaine de la santé
Dans le cadre de la publication de cet article, l’OMS recommande six principes sur lesquels la réglementation et la gouvernance pourraient s’appuyer :
- Protéger l’autonomie de l’être humain : dans le contexte des soins de santé, les individus doivent rester maîtres des systèmes de soins de santé et des décisions médicales, la vie privée et la confidentialité doivent être protégées et les patients doivent donner un consentement éclairé valide au moyen de cadres juridiques appropriés en matière de protection des données.
- Promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public : les concepteurs de technologies d’IA doivent respecter les obligations réglementaires relatives à la sécurité, à la précision et à l’efficacité pour des utilisations ou des indications bien définies. Il faut pouvoir disposer de mesures de contrôle de la qualité dans la pratique et d’amélioration de la qualité dans l’utilisation de l’IA.
- Garantir la transparence, la clarté et l’intelligibilité : la transparence exige que des informations suffisantes soient publiées ou documentées avant la conception ou le déploiement d’une technologie d’IA. Ces informations doivent être facilement accessibles et permettre une consultation et un débat publics constructifs sur la conception de la technologie et sur l’utilisation qui doit ou non en être faite.
- Encourager la responsabilité et l’obligation de rendre des comptes : même si les technologies d’IA permettent d’accomplir des tâches spécifiques, il incombe aux parties prenantes de veiller à ce qu’elles soient utilisées dans des conditions appropriées et par des personnes dûment formées. Des mécanismes efficaces doivent être mis en place pour permettre aux individus et aux groupes lésés par des décisions fondées sur des algorithmes de contester ces décisions et d’obtenir réparation.
- Garantir l’inclusion et l’équité : l’inclusion suppose que l’IA appliquée à la santé soit conçue de manière à encourager l’utilisation et l’accès équitables les plus larges possibles, indépendamment de l’âge, du sexe, du genre, des revenus, de la race, de l’origine ethnique, de l’orientation sexuelle, des capacités ou d’autres caractéristiques protégées par les codes relatifs aux droits humains.
- Promouvoir une IA réactive et durable : les concepteurs, les développeurs et les utilisateurs devraient évaluer de manière continue et transparente les applications de l’IA en situation réelle afin de s’assurer que cette technologie répond de manière adéquate et appropriée aux attentes et aux besoins. Les systèmes d’IA devraient également être conçus de sorte à réduire au minimum leurs conséquences environnementales et à accroître leur efficacité énergétique. Les gouvernements et les entreprises devraient anticiper les bouleversements qui seront occasionnés au niveau du travail, notamment la formation des agents de santé qui devront se familiariser avec l’utilisation des systèmes d’IA, et les pertes d’emploi que le recours à des systèmes automatisés est susceptible d’engendrer.
