Deux chercheurs de l’Observatoire de l’Internet de Stanford, Renée DiResta et Josh Goldstein, ont trouvé plus de 1 000 faux profils sur LinkedIn créés avec des photos générées par l’IA, plus précisément avec les GAN (Generative Adversial Networks). Ces faux profils pourraient permettre aux entreprises de toucher plus de clients sans pour autant embaucher plus de personnel ni dépasser le nombre limite de messages imposé par LinkedIn.
Renée DiResta et Josh Goldstein, de l’Observatoire Internet de Stanford, ont décidé de mener une enquête sur les faux-profils à la suite d’un message reçu par Renée DiResta, provenant de « Keenan Ramsey », se présentant comme une employée de RingCentral. Bien qu’elle ne soit pas intéressée par le logiciel proposé à la vente, elle a regardé la photo de profil et s’est rendue compte qu’elle était étrange : Keenan Ramsey ne portait qu’une seule boucle d’oreille, ses yeux étaient alignés en plein milieu de l’image et des mèches de cheveux apparaissaient et disparaissaient…
Ensuite, elle a reçu un second message LinkedIn d’un prétendu employé de RingCentral et dont la photo de profil semblait également générée par ordinateur et, pour finir
un e-mail d’un troisième employé de RingCentral, faisant référence au message de Keenan Ramsey, qui, lui, s’est révélé un réel employé de l’entreprise.
Renée DiResta et Josh Goldstein se sont alors mis à la recherche des faux profils sur LinkedIn et en ont trouvé plus de 1 000.
Josh Goldstein a déclaré :
« En l’espace de quelques semaines, nous avons trouvé plus d’un millier de comptes qui semblent être de faux comptes avec des images générées par le GAN. Et lorsque nous avons recherché ces personnes sur Internet, nous n’avons trouvé aucune preuve de leur existence ailleurs, ce qui est rare. »
Renée DiResta ajoute sur twitter :
« Ce n’est pas une histoire de mésinformation ou de désinformation, mais plutôt l’intersection d’un cas d’utilisation commerciale assez banal avec la technologie de l’IA, et les questions d’éthique et d’attentes qui en résultent. Quelles sont nos hypothèses lorsque nous rencontrons d’autres personnes sur les réseaux sociaux ? Quelles actions traversent la ligne de la manipulation? »
Le site web NPR a décidé de continuer l’enquête auprès de plus de 70 entreprises dans lesquelles ces faux profils étaient censées travailler. La plupart ignoraient que ces faux profils existaient ayant sous-traité leur marketing à des agences spécialisées et ont affirmé qu’il n’avaient en aucun cas autorisé l’usage de photos générées par l’IA.
Les faux profils d’employés de RingCentral
Les chercheurs de Stanford ont trouvé 60 faux profils de prétendus employés de RingCentral, l’entreprise confirme qu’aucun d’entre eux n’y a jamais travaillé. La personne qui a envoyé un e-mail à Renée DiResta suite au message LinkedIn de Keenan Ramsey était un véritable employé de RingCentral mais a quitté l’entreprise.
RingCentral a reconnu avoir sous traité auprès d’autres entreprises pour contacter des clients potentiels et organiser des réunions avec ses propres vendeurs (ce que l’on appelle dans l’entreprise la « génération de leads »). L’une d’entres elle a créé de faux profils, mais RingCentral n’a pas révélé son nom. Heather Hinton, responsable de la sécurité de l’information chez RingCentral, a déclaré qu’elle n’était pas au courant de cette pratique et ne l’approuvait pas. Elle a déclaré à NPR lors d’une interview :
« Ce n’est pas comme ça que nous faisons des affaires. C’était pour nous un rappel que la technologie évolue plus vite que même ceux d’entre nous qui la regardent ne peuvent suivre. Et nous devons simplement être de plus en plus vigilants quant à ce que nous faisons et à ce que nos fournisseurs vont faire sur notre nom. »
La porte-parole de RingCentral, Mariana Leventis, a déclaré dans un communiqué :
« Bien que cela ait pu être une pratique acceptée par l’industrie dans le passé, à l’avenir, nous ne pensons pas que ce soit une pratique acceptable et va à l’encontre de notre engagement envers nos clients. Nous prenons des mesures spécifiques pour mettre à jour notre approche de la génération de prospects et pour éduquer nos employés sur ce qui est et n’est pas acceptable en termes de communication avec les clients et les partenaires. »
Plusieurs des autres entreprises répertoriées comme employeurs actuels sur les profils apparemment faux ont déclaré la même chose à NPR : elles ont utilisé des fournisseurs externes pour présenter des clients potentiels sur LinkedIn.
LinkedIn affirme que tous les profils non authentiques, y compris ceux utilisant des images qui ne représentent pas un utilisateur réel, vont à l’encontre de ses règles. Il indique d’ailleurs dans sa page « Politiques de la communauté professionnelle » : « N’utilisez pas l’image de quelqu’un d’autre, ou toute autre image qui ne vous ressemble pas, pour votre photo de profil ».
Le réseau professionnel a déclaré avoir enquêté et supprimé ceux qui enfreignaient ses politiques, notamment les règles concernant la création de faux profils ou la falsification d’informations.
Leonna Spilman, porte-parole de LinkedIn, confirme :
« Nos politiques indiquent clairement que chaque profil LinkedIn doit représenter une personne réelle. Nous mettons constamment à jour nos défenses techniques pour mieux identifier les faux profils et les supprimer de notre communauté, comme nous l’avons fait dans ce cas En fin de compte, il s’agit de s’assurer que nos membres peuvent entrer en contact avec de vraies personnes, et nous nous efforçons de garantir qu’ils disposent d’un environnement sûr pour le faire. »
