Les systèmes de reconnaissance faciale questionnent sur les enjeux de protection des données et les risques d’atteintes aux libertés individuelles, de nombreuses ONG à l’instar d’Amnesty International demandent à ce que l’on cesse de les utiliser. Fin juillet, le juge de la Cour suprême de New York Laurence Love a statué en faveur d’Amnesty International et du projet STOP (Surveillance Technology Oversight Project) et ordonné au Département de police de la ville de New York (NYPD) de divulguer des milliers d’enregistrements sur la manière dont il s’est procuré et a utilisé les technologies de reconnaissance faciale contre des manifestant(e)s du mouvement Black Lives Matter entre mars et septembre 2020.
S’il est bien une technologie de l’IA qui suscite débats et inquiétudes, c’est celle de reconnaissance faciale. Alors que la Chine l’utilise pour la répression des journalistes, des étudiants étrangers, de la communauté ouigour, des « personnes préoccupantes », l’Europe essaie d’encadrer son utilisation dans les espaces publics via le RGPD. Au niveau mondial, la majeure partie des services policiers y ont recours et, de plus en plus de villes installent des caméras intelligentes.
Les technologies de reconnaissance faciale peuvent être développées en récupérant des millions de clichés à partir de profils sur les réseaux sociaux et de permis de conduire, sans le consentement des personnes concernées. Le logiciel effectue alors une analyse faciale des images capturées par les systèmes de télévision en circuit fermé et d’autres systèmes de vidéosurveillance pour rechercher d’éventuelles correspondances avec la base de données des images récupérées. Elles sont susceptibles d’amplifier la discrimination raciale, de menacer le droit à la vie privée ainsi que celui de manifester pacifiquement.
Certaines villes américaines, comme Boston, Portland et San Francisco, ont interdit l’utilisation de cette technologie par les forces de l’ordre, le Département de police de la ville de New York (NYPD) continue de l’employer, notamment lors des manifestations Black Lives Matter.
Des dizaines de milliers de caméras sont ainsi installées dans les quartiers à majorité noire et latino-américaine comme Brooklyn, Harlem à Manhattan ou le Bronx.
Matt Mahmoudi, chercheur sur l’intelligence artificielle et les droits humains à Amnesty International, déclare :
« La police peut se servir de ce réseau tentaculaire de caméras à des fins de reconnaissance faciale intrusive, ce qui risque de transformer New York en une cité de la surveillance digne d’un roman d’Orwell… Vous n’êtes jamais anonymes. Que vous participiez à une manifestation, vous rendiez à pied dans un quartier précis ou que vous alliez juste faire des courses à l’épicerie, votre visage peut être suivi grâce à la reconnaissance faciale, qui s’appuie sur les images prises par des milliers de caméras disséminées à travers New York. »
Le mouvement Black Lives Matter
Black Lives Matter est un mouvement politique né en 2013 créé par la communauté afro-américaine après l’acquittement de l’homme qui avait tué Trayvon Martin, un jeune homme de 17 ans. Il milite contre les violences policières et le racisme systémique envers les noirs aux Etats-Unis. Le décès d’Eric Gartner, suite à un étouffement lors de son immobilisation par les forces de police, lui avait donné de l’ampleur.
La mort de George Floyd à Minneapolis, le 25 mai 2020, dans des circonstances similaires, filmée et relayée par les réseaux sociaux, a été à l’origine de manifestations internationales.
L’action en justice d’Amnesty International et de STOP contre le NYPD
Dès septembre 2020, Amnesty International États-Unis a déposé une demande de documents publics en vertu de la loi sur la liberté d’information (FOIL) de New York afin d’obtenir les documents de la police de New York relatifs à la surveillance des manifestations historiques de Black Lives Matter en 2020.
La police de New York a rejeté cette requête, et a ensuite fait appel. En juillet 2021, Amnesty International et S.T.O.P., organisation de défense du droit à la vie privée et des droits civiques, ont entrepris une action en justice contre la police de New York pour son refus de divulguer ses dossiers.
Le 29 juillet dernier, le juge de la Cour Suprême Laurence Love a ordonné à la police de New York de communiquer 2 700 documents et courriels datant du 1er mars au 1er septembre 2020, relatifs à l’acquisition et à l’utilisation de la surveillance par reconnaissance faciale lors des manifestations du mouvement Black Lives Matter, après avoir de nouveau soumis la demande initiale d’Amnesty au titre de la loi sur la liberté d’information (FOIL).
Amnesty International et STOP pourront ainsi enquêter de manière approfondie sur l’acquisition et l’utilisation par la police de New York des technologies de reconnaissance faciale dans toute la ville.
Matt Mahmoudi déclare :
« Les New-Yorkaises et les New-Yorkais qui réclament la justice raciale ont le droit de connaître tous les détails de l’utilisation par la police de New York des technologies de reconnaissance faciale pendant les manifestations de Black Lives Matter. Ce jugement reconnaît que la police de New York a enfreint la loi en faisant de la rétention d’informations et constitue une étape importante pour l’amener à rendre des comptes s’agissant de l’utilisation de la surveillance discriminatoire. Qu’il ait fallu une action en justice pour y parvenir est un réquisitoire accablant contre le manque de transparence et d’obligation de rendre des comptes de la police de New York vis-à-vis de la population. »
Il ajoute :
« Interdire la reconnaissance faciale à des fins de surveillance de masse est une première mesure indispensable en vue de lutter contre le maintien de l’ordre raciste à New York. Nous avons tous le droit de manifester pacifiquement sans craindre la surveillance. »
Albert Fox Cahn, directeur exécutif du projet STOP, conclut :
« La police de New York a eu tort de surveiller les manifestant·e·s de Black Lives Matter et elle a eu tort de cacher des preuves… Elle dissimule systématiquement les moyens qu’elle met en œuvre pour nous surveiller, mais aujourd’hui, c’est terminé. Ce jugement est limpide : la police de New York a enfreint la loi en cachant ses enregistrements. Lorsque la police agit dans l’ombre et viole les lois relatives à la surveillance, il s’agit d’une menace pour la sécurité publique, mais aussi pour la démocratie. J’espère que la police du maire de New York Eric Adams se conformera rapidement à cet ordre. Les habitant·e·s de New York méritent de savoir comment la dissidence politique est contrôlée dans cette ville. Plus important encore, ces dossiers peuvent nous aider à prévenir d’autres abus à l’avenir. »
