Les promesses de l’intelligence artificielle (IA) en matière de santé suscitent de grandes attentes et on ne compte plus les acteurs de l’écosystème (les grands groupes comme les start-ups) qui développent des algorithmes afin d’améliorer le parcours du soin des patients. Notre plaidoyer « IA et Santé, entre raison et sentiments » montrait déjà tous les efforts déployés pour dynamiser une médecine 5P (personnalisée, préventive, prédictive, participative et des preuves). Il abordait également les limites actuelles des modèles utilisés, qu’ils soient symboliques ou profonds (deep learning). La plus importante reste celle des biais inhérents à la conception même des systèmes proposés.
Pour fonctionner, l’IA fonde son entraînement sur de grandes quantités de données disponibles. Or ces données ne sont pas toujours, loin s’en faut, représentatives, disponibles et des sources fiables, ce qui tend à fausser ses résultats. Au final, cela génère des outils qui intègrent une augmentation des inégalités en termes d’accès aux soins. Les biais, qu’ils soient de genre, ou liés à des typologies de populations sous-représentées sont critiques en matière de santé, avec des effets qui peuvent être d’une gravité sans précédent. Le collectif Impact AI a travaillé durant 2 années sur la genèse de préconisations concrètes afin d’atténuer ces risques et d’accompagner une innovation responsable en matière d’IA en santé.
1. Diversifier
Les équipes de développement de solutions d’IA en santé ne peuvent faire l’impasse sur le fait que les jeux de données manquent de représentativité. Afin que, dès la conception et tout au long du développement des algorithmes, ces limites soient bien identifiées et les réglages adaptés en conséquence, la constitution d’équipe pluridisciplinaire doit devenir la norme pour tout développement. Les ingénieurs et data analysts doivent s’entourer de spécialistes des disciplines concernées, d’experts métiers pour identifier et se confronter aux différentes réalités terrains afin d’éviter les biais et d’accroitre la diversité des données. Pour les startups une dynamique doit se nouer avec les universités (via par exemple la confédération des junior entreprises des universités et grandes écoles) et les grands acteurs. Cette dynamique devrait être portée et soutenue par les pouvoirs publics afin d’augmenter leur empowerment.
2. Former
L’ensemble des acteurs de l’écosystème en santé doivent être garants de fournir formation et éducation pour toute solution utilisant de l’IA en santé. Dans un paysage en évolution il est du devoir de tous de pouvoir accompagner et former les équipes sur la compréhension, les développements, les enjeux et les utilisations des solutions utilisant de l’IA en santé.
L’état, les institutions publiques, les grandes entreprises doivent se réunir, partager des moyens humains et financiers afin d’accompagner collectivement l’ensemble des acteurs en santé.
La garantie humaine devrait être incluse dans les processus de développement.
3. Inclure
En collaboration avec le secrétariat d’Etat rattaché aux associations, un point sensible est de permettre/faciliter l’intégration, dans le processus de développement des solutions IA Santé, de rencontres régulières avec les associations de patients et des sociologues. Ces inclusions permettront de (1) limiter les biais afin d’assurer une adéquation avec le « proof of concept / stress test » et (2) permettre aux associations de s’acculturer et diffuser auprès des publics concernés.
4. Repenser et Ajuster
Il est nécessaire de comprendre le système dans lequel nous implémentons de l’IA et tout particulièrement dans le domaine de la santé. L’innovation n’a d’intérêt que celui d’être utilisé à partir du besoin métier, et cela est d’autant plus important à l’heure actuelle où le manque de ressources des professionnels se fait ressentir. Les acteurs de la santé ont un rôle à jouer pour garantir la pertinence et le choix des modèles ainsi que dans l’apprentissage du modèle dont l’unique but est d’aboutir à son efficacité. Il faut concrètement que le paradigme change en termes de construction de l’IA, elle doit servir aux utilisateurs et rendre la machine au service de l’humain afin d’obtenir une meilleure appropriation de celle-ci dans les pratiques. L’interface homme-machine devrait être pensée pour eux et avec eux afin d’optimiser les ressources et d’ajuster pour accompagner le changement de pratique. Pour cela, l’implémentation de l’IA dans le domaine de la santé doit être transparente et ouverte à tous.
L’homme sera probablement libéré des tâches sans valeur ajoutée grâce à l’IA et pourra se concentrer sur ce qu’il sait faire de bien et mieux, s’occuper de l’humain.
Au-delà des biais, notre travail a permis la rencontre avec nombre d’entreprises et acteurs du domaine. Il en est ressorti une évidence concernant les besoins des start-ups qui amène une 5ème recommandation.
5. Accompagner
Dans une logique de Partenariat Privé Public et avec moyens adaptés (modèle BPI), le renforcement/mise en place d’une plateforme de soutien aux entreprises sur les enjeux mal perçus faute de temps est une nécessité absolue. Celle-ci doit accompagner les acteurs sur les questions juridiques, réglementaires passées et à venir (exemple de AI Act)… Fonctionnant sur un mode proche des « help desks » en ligne, chaque entreprise devrait avoir un(e) référant(e) dont le rôle est de répondre aux questions mais également de connaître suffisamment ses “clients” pour les alerter régulièrement sur les évolutions d’un univers en évolution permanente ;
Nous sommes le collectif de réflexion et d’action Impact AI. Nous rassemblons des acteurs travaillant sur l’intelligence artificielle : grandes entreprises, entreprises numériques, start-up sociétés de conseil, écoles. Nous sommes engagés pour le développement d’une intelligence artificielle éthique et responsable. Notre taskforce dédiée à la santé a publié en 2021 : « L’IA en santé : entre raison et sentiments », un plaidoyer réalisé avec le concours d’une quinzaine d’experts en IA et/ou en santé. Depuis, nous avons lancé un appel sur Actu IA pour constituer un groupe de travail spécifique afin d’approfondir deux des enjeux identifiés dans ce document : les biais algorithmiques liés au genre et les données grises. Si vous voulez rejoindre nos groupes de travail, contactez-nous.
