La semaine dernière, ils étaient 163 scientifiques internationaux à avoir signé un engagement volontaire pour le développement et l’utilisation responsables d’outils d’IA dans le domaine de la conception informatique des protéines. Au cœur de leur démarche se trouvent des valeurs fondamentales telles que la sécurité, l’ouverture, l’équité et la responsabilité.
En octobre dernier, en prévision du sommet britannique sur la sécurité de l’IA, l’Institute for Protein Design de l’école de médecine de l’Université de Washington a réuni des universitaires du monde entier et des représentants de plusieurs organisations industrielles, philanthropiques et gouvernementales, dont le Bureau de la science, de la technologie et de la politique de la Maison-Blanche, autour de l’IA responsable et la conception de protéines. Leurs discussions ont permis d’élaborer les lignes directrices volontaires de cet engagement.
Lynda Stuart, MD, PhD, directrice exécutive, Institute for Protein Design, déclarait alors :
“La conception des protéines est en passe de devenir l’un des nouveaux outils les plus importants dont nous disposons pour fabriquer des médicaments, y compris pour développer des contre-mesures aux futures pandémies, et pour faire face à d’autres urgences mondiales telles que le changement climatique. Pour que ce domaine de la science, qui évolue rapidement, apporte le plus de bien possible au monde, notre communauté doit s’assurer que nous procédons de manière sûre et responsable”.
Les engagements volontaires en faveur d’un développement responsable de l’IA
Reconnaissant eux aussi le potentiel révolutionnaire de l’application de l’IA dans la conception de protéines pour la résolution de défis mondiaux cruciaux, ces scientifiques s’engagent à conduire leurs recherches dans l’intérêt de la société, tout en garantissant la sûreté et la sécurité des technologies développées.
Ils estiment qu’une approche proactive de gestion des risques est nécessaire pour atténuer le potentiel de développement de technologies d’IA qui pourraient être utilisées à mauvais escient, intentionnellement ou non, pour causer des dommages. Les valeurs et les principes sur lesquels sont basés leurs 10 engagements sont la sûreté et la sécurité, l’équité, la collaboration internationale, l’ouverture, la responsabilité et la poursuite de la recherche au profit de la société.
Pour éviter de causer tout préjudice à la société, ils se procureront ainsi de l’ADN synthétique uniquement auprès de fournisseurs respectant les pratiques de biosécurité standard visant à détecter les biomolécules dangereuses avant qu’elles ne puissent être fabriquées. Dans ce même objectif, ils participeront à l’amélioration des processus de criblage de la synthèse de l’ADN, et s’engagent d’autre part à évaluer en permanence leurs logiciels de conception de protéines pour identifier et atténuer les risques significatifs.
Ils rendront compte de leurs pratiques de recherche et communiqueront sur les avantages et les risques de leurs recherches. Si nécessaire, ils réviseront les principes et engagements pris et les partageront avec les nouveaux membres du domaine.
La détermination de ces biologistes à assurer un développement responsable de l’IA dans la conception de protéines pourrait ouvrir la voie à un avenir où innovation et bien-être de l’humanité iraient idéalement de pair…
Pour retrouver les engagements et la liste des signataires ici
