Le Pentagone a dévoilé ce lundi 24 février une série de principes éthiques pour l’utilisation des technologies d’intelligence artificielle. Leur adoption fait suite aux recommandations fournies au Secrétaire à la Défense par le Defense Innovation Board en octobre dernier.
Ces recommandations ont été formulées après 15 mois de consultation avec les principaux experts en IA de l’industrie commerciale, du gouvernement, des universités et des citoyens américains. Elles ont donné lieu à un processus rigoureux de retour d’information et d’analyse entre les principaux experts en IA du pays, avec de multiples possibilités de participation et de commentaires du public. L’adoption de principes éthiques en matière d’IA s’aligne sur l’objectif de la stratégie du Pentagone en matière d’IA, qui consiste à faire de l’armée américaine le chef de file de l’éthique de l’IA et de l’utilisation légale des systèmes d’IA.
“Les États-Unis, avec leurs alliés et partenaires, doivent accélérer l’adoption de l’IA et prendre la tête de leurs applications de sécurité nationale pour maintenir leur position stratégique, s’imposer sur les futurs champs de bataille et préserver l’ordre international fondé sur des règles”, a déclaré la secrétaire d’État Esper.
“La technologie de l’IA changera beaucoup de choses sur le champ de bataille du futur, mais rien ne fera changer l’engagement inébranlable de l’Amérique à se comporter de façon responsable et légale. L’adoption de principes éthiques en matière d’IA renforcera l’engagement du ministère à respecter les normes éthiques les plus élevées, comme le souligne la stratégie du Pentagone en matière d’IA, tout en s’appuyant sur la solide expérience de l’armée américaine en matière d’application de normes rigoureuses de test et de mise en œuvre des innovations technologiques”.
Ces principes s’alignent étroitement sur les efforts actuels de l’administration Trump pour faire progresser des technologies d’IA fiables. L’année dernière, le président Trump a lancé l’American AI Initiative, la stratégie nationale des États-Unis pour le leadership en matière d’intelligence artificielle, qui encourage les utilisations innovantes de l’IA tout en protégeant les libertés civiles, la vie privée et les valeurs américaines.
Les principes éthiques du Pentagone en matière d’IA s’appuieront sur le cadre éthique existant de l’armée américaine, basé sur la Constitution américaine, le Title 10 du U.S. Code, la Law of War, les traités internationaux existants et les normes et valeurs établies. Alors que le cadre existant fournit une base durable et technologiquement neutre pour un comportement éthique, l’utilisation de l’IA soulève de nouvelles ambiguïtés et de nouveaux risques éthiques. Les principes éthiques adoptés par le Pentagone cherchent donc, selon le DOD, à répondre à ces nouveaux défis et à garantir l’utilisation responsable de l’IA par le Pentagone.
Ces principes s’appliqueront à la fois aux fonctions de combat et hors combat et aideront l’armée américaine à respecter ses engagements juridiques, éthiques et politiques dans le domaine de l’IA. Les principes éthiques du département en matière d’IA couvrent cinq domaines principaux :
- Responsabilité. Le personnel du Pentagone fera preuve d’un niveau de jugement et de prudence approprié, tout en restant responsable du développement, du déploiement et de l’utilisation des capacités d’IA.
- Équité. Le département prendra des mesures délibérées pour minimiser les biais involontaires dans les capacités d’IA.
- Traçabilité. Les capacités en IA du Pentagone seront développées et déployées de telle sorte que le personnel concerné dispose une compréhension appropriée de la technologie, des processus de développement et des méthodes opérationnelles applicables aux technologies d’IA, avec notamment des méthodologies transparentes et vérifiables, des sources de données et des procédures de conception et de documentation.
- Fiabilité. Les usages de l’IA du Pentagone auront des utilisations explicites et bien définies, et la sûreté, la sécurité et l’efficacité de ces capacités seront soumises à des tests et à une assurance dans le cadre de ces utilisations définies tout au long de leur cycle de vie.
- Gouvernance. Le Pentagone concevra et développera des outils d’IA pour remplir les fonctions prévues tout en ayant la capacité de détecter et d’éviter les conséquences involontaires, et la capacité de désengager ou de désactiver les systèmes déployés qui présentent un comportement involontaire.
“Le leadership du secrétaire d’État Esper en matière d’IA et sa décision de publier des principes d’IA pour le Pentagone montrent non seulement au ministère de la défense, mais aussi aux pays du monde entier, que les États-Unis et le ministère de la défense sont attachés à l’éthique et qu’ils joueront un rôle de premier plan pour garantir que les démocraties adoptent les nouvelles technologies de manière responsable”, a déclaré le Dr Eric Schmidt, président du Defense Innovation Board.
“Je salue également le leadership de Dana Deasy et du lieutenant général Shanahan, qui, par l’intermédiaire du Joint AI Center, ont été les meneurs de cet effort”.
Le Joint Artificial Intelligence Center du ministère de la défense sera le point névralgique de la coordination de la mise en œuvre des principes éthiques de l’IA pour le ministère. Le JAIC dirige et anime actuellement une série de groupes de travail qui sollicitent la contribution des services et des experts en IA et en technologie dans l’ensemble du DOD.
“Nous sommes reconnaissants au Defense Innovation Board pour ses recommandations approfondies et perspicaces qui ont conduit à l’adoption des principes éthiques du DoD en matière d’IA”, a déclaré l’honorable Dana Deasy, directeur de l’information du DOD.
“L’éthique reste au premier plan de tout ce que le département fait avec la technologie de l’IA, et nos équipes utiliseront ces principes pour guider les tests, la mise en œuvre et l’extension des capacités d’IA dans tout le DOD”.
