L’intelligence artificielle peut-elle influencer notre attitude et nos décisions ? C’est la question à laquelle se sont intéressés Ujué Agudo et Helena Matute, chercheurs de l’université de Deusto, à Bilbao, en Espagne. Que ce soit dans le domaine de la politique ou des rencontres amoureuses, ils ont mené plusieurs expériences afin d’établir leurs conclusions. Les résultats de leur étude ont fait l’objet d’un article, publié ce mois d’avril.
L’influence de l’intelligence artificielle sur la prise de décision
De nos jours, de nombreuses personnes côtoient l’intelligence artificielle. Elle fait partie prenante de nos vies et il semble légitime de se demander comment l’IA peut influencer notre jugement et notre perception des choses. Trois chercheurs au département des technologies de l’information de l’université de Géorgie s’étaient intéressés à la question et en avaient déduit que nous avions tendance à faire confiance aux machines et aux algorithmes plus qu’aux autres êtres humains dans une situation de prise de décision.
Afin d’apporter un nouvel éclairage, Ujué Agudo et Helena Matute, de l’université de Deusto, ont fait des recherches sur l’influence des algorithmes sur les décisions prises par la population lors de scrutins politiques ou pendant une rencontre amoureuse. Cette étude cherche à savoir si les algorithmes peuvent persuader les personnes (implicitement ou explicitement) de voter pour un candidat en particulier ou de sortir avec eux, ou si, au contraire, les individus rejettent l’influence de l’IA pour préserver une certaine liberté d’action.
Pouvons-nous être influencés par l’IA dans les processus de vote ou de rencontres amoureuses ?
Dans le cadre de quatre expériences, les deux chercheurs ont tenté de répondre à cette question en testant l’influence de l’IA dans différents contextes. Ils ont recruté des participants qui ont interagi avec des algorithmes présentant des photos de candidats politiques fictifs ou bien de personnes favorables à des rencontres amoureuses en ligne. Les personnes observées ont dû indiquer dans le cadre d’un questionnaire pour quel candidat ils seraient capables de voter ou bien à quelle personne ils enverraient un message pour une éventuelle rencontre en ligne.
La nuance réside dans le fait que les algorithmes faisaient la promotion de certains de ces candidats, soit de manière explicite en précisant par exemple une forte compatibilité amoureuse ou politique, ou bien de manière implicite, en montrant plus souvent une personnalité qu’une autre.
Dans l’ensemble, les expériences ont montré que les algorithmes avaient une influence significative sur les décisions des participants concernant le vote ou le message amoureux. Pour les décisions politiques, la manipulation explicite influençait considérablement les décisions, tandis que la manipulation implicite n’était pas efficace. L’effet inverse a été observé pour les décisions de datation.
Les chercheurs appellent à la sensibilisation autour des systèmes d’intelligence artificielle
Les chercheurs pensent que ces résultats pourraient refléter la préférence des gens pour des conseils explicites venant d’humains lorsqu’il s’agit de questions subjectives telles que les rencontres, tandis que les gens pourraient préférer des conseils algorithmiques en ce qui concerne les décisions politiques rationnelles.
Dans leur conclusion, les chercheurs précisent qu’il est important d’éduquer les gens contre la confiance et de suivre aveuglément les conseils des algorithmes. Selon eux, il est également nécessaire de réaliser une discussion sur qui peut posséder et utiliser les données qui permettent à ce genre d’algorithmes de fonctionner efficacement. Ils expriment, pour finir, leur soutien aux initiatives visant à renforcer la fiabilité de l’IA, tel que les directives d’éthique de la Commission européenne pour une IA digne de confiance et le programme d’IA explicable (XAI) de la DARPA.
