Selon une information de la BBC, relayée par Le Point, un ingénieur logiciel a affirmé avoir installé des caméras dotées d’un système de détection des émotions dans les commissariats de police de la province du Xinjiang, en Chine. Ce logiciel serait utilisé sur le peuple ouïghour comme détecteur de mensonge dans une logique d’automatisation laissant craindre une nouvelle escalade dans la persécution. L’ambassade de Chine à Londres n’aurait pas souhaité donner plus d’informations sur le sujet tout en affirmant que les droits politiques et sociaux de tous les groupes ethniques du pays sont garantis.
Les déclarations d’un ingénieur logiciel participant au projet recueillies par la BBC
Un ingénieur logiciel ayant participé à l’élaboration du test grandeur nature d’un système de reconnaissance d’émotions dans le Xinjiang a accepté de parler à la BBC sous couvert d’anonymat. Celui-ci a indiqué craindre pour sa sécurité et n’a pas souhaité que l’entreprise pour laquelle il travaillait soit révélée.
Cet ingénieur logiciel aurait déclaré à la BBC :
«Le gouvernement chinois utilise des ouïghours comme sujets de test pour diverses expériences, tout comme les rats sont utilisés dans les laboratoires. Nous avons placé la caméra de détection des émotions à 3 mètres du sujet. Elle est similaire à un détecteur de mensonges, mais utilise une technologie bien plus avancée.»
Il aurait également fourni à la BBC des preuves montrant que le système d’IA est entraîné pour détecter la moindre expression faciale d’un individu. Celles-ci sont analysées et un diagramme circulaire est ainsi créé : la part rouge du graphique correspond à un état d’esprit anxieux ou négatif .
Selon l’ingénieur cité par la BBC, le logiciel serait destiné à juger des ouïghours automatiquement, sans preuves crédibles.
« Les suspects ouïghours sont assis sur des chaises de contention, pieds et poings menottés, face au détecteur d'émotions. » Share on XPour Sophie Richardson, directrice Chine de Human Rights Watch, cette pratique est extrêmement choquante, elle a déclaré à la BBC :
«Ce n’est pas simplement choquant parce que ces personnes sont réduites à des graphiques, ca l’est surtout parce que ces personnes se trouvent dans des conditions de coercition, subissent une énorme pression, sont logiquement nerveuses, et cela est pris pour une indication de culpabilité.
J’estime que c’est extrêmement problématique.»
Près de 12 millions de ouïghours vivent dans le Xinjiang. La région est connue pour abriter des “centres de rééducations” appelés camps de détention de haute sécurité où près d’un million de ouïghours seraient détenus. Les citoyens de cette province sont surveillés quotidiennement, car le gouvernement chinois considère qu’il existe des groupes de séparatistes souhaitant créer leur propre état dans le Xinjiang et que des attentats terroristes ayant tué des centaines de personnes ont déjà eu lieu dans la région.
L’utilisation de l’intelligence artificielle en Chine et les questions éthiques
L’article de la BBC cite Darren Byler, de l’université de Colorado, pour qui les ouïghours doivent se prêter à des prélèvements d’ADN de façon routinière, sont contraints de se déplacer avec leur téléphone portable, sur lequel ils doivent au préalablement installer une application de traçage. Selon lui “La vie ouïghour consiste désormais à générer de la donnée”.
Près de 400 millions : c’est le nombre de caméras de surveillance que la Chine abrite. Cela correspond à la moitié des dispositifs déployés partout dans le monde. Le pays comporte un grand nombre de villes intelligentes, dont l’exemple le plus marquant est Chongqing : selon un journaliste de la BBC, chaque fait et geste est scruté par le gouvernement grâce à ces systèmes, de l’ascenseur que l’on utilise pour quitter son appartement, au taxi utilisé pour aller d’un point A à un point B.
L’ambassade de Chine à Londres n’a pas souhaité répondre aux questions du média britannique relatives aux propos de l’ingénieur, mais a déclaré :
“Les droits politiques, économiques et sociaux et la liberté de croyance religieuse dans tous les groupes ethniques du Xinjiang sont pleinement garantis. Les gens vivent en harmonie indépendamment de leur origine ethnique et jouissent d’une vie stable et paisible sans aucune restriction à la liberté personnelle.”
Elle a également précisé qu’elle n’avait aucune connaissance de l’existence de tels programmes et a déclaré formellement “qu’il n’y a pas de technologie de reconnaissance faciale permettant d’analyser les ouïghours”.
