La Chine teste un nouveau système de reconnaissance faciale sur des Ouïghours de la province du Xinjiang. Et l’IA utilisée a une fonction bien particulière : elle vise à révéler les émotions ressenties par la personne ciblée lors d’interrogatoires, se substituant à un détecteur de mensonges, rapportait la BBC le 26 mai.
Le Xinjiang abrite 12 millions d’Ouïghours, une minorité ethnique à majorité musulmane. Le régime chinois affirme que des séparatistes veulent y créer leur propre État. En conséquence, tous les citoyens de la province sont sous surveillance quotidienne. Ils doivent en effet régulièrement fournir des échantillons d’ADN aux autorités locales, mais aussi subir des analyses numériques. Et ce n’est pas tout.
Certains Ouïghours auraient également servi de cobaye pour développer une IA de « détection d’émotions », selon un ingénieur qui affirme avoir installé de tels logiciels dans les commissariats de police de la province. « Nous avons placé la caméra de détection des émotions à 3 m du sujet. Elle est similaire à un détecteur de mensonge mais sa technologie la rend bien plus précise », a-t-il déclaré.
La source anonyme précise aussi dans quelles conditions ces tests étaient menés. « Vos poignets sont maintenus en place par des attaches métalliques, pareil pour vos chevilles. » Le système est entraîné à détecter et analyser les changements les plus infimes dans les expressions faciales et les pores de la peau, d’après les preuves rapportées par l’ingénieur. Le logiciel crée ensuite un camembert. Plus le segment est rouge, plus il traduit un état d’esprit négatif ou anxieux.
Le fameux camembert divulgué par l’ingénieur
Pour l’ingénieur, c’est donc un logiciel destiné à émettre un « pré-jugement sans aucune preuve crédible ». De plus, compte tenu de la surveillance constante à laquelle ils font face, les Ouïghours seraient d’autant plus faciles à cibler car plus anxieux.
Source : BBC
