Les Chinois sous-contrôle

Dans le nord-ouest de Pékin, un couloir bordé par des portraits des plus grands dirigeants chinois mène au bureau de Yi Zeng. Cet informaticien de 37 ans travaille à l’Institut d’automatisation de l’Académie des sciences chinoise. Mais malgré toute la passion qu’il met dans ses recherches, Yi n’intéresse pas le gouvernement. Pékin n’a que faire de son manifeste de 2019 sur les principes éthiques de l’intelligence artificielle (IA) et les risques posés par cette technologie pour la vie privée.

Début août, après que Donald Trump a annoncé sa volonté de bannir TikTok des États-Unis, des familles américaines ont porté plainte contre le réseau social chinois, l’accusant d’avoir volé les données de leurs enfants pour les envoyer en Chine. Quelques semaines plus tôt, le département du Commerce américain plaçait l’Institut chinois des sciences, ainsi que des entreprises chinoises spécialisées dans l’IA comme CloudWalk et Intellifusion, sur une liste noire. Ces organisations sont accusées de participer à la répression des Ouïghours.

Mais l’IA ne permet pas seulement la surveillance de cette minorité musulmane. Yi Zeng lutte contre un projet déployé dans certaines écoles, où la reconnaissance faciale est utilisée pour surveiller l’assiduité et l’attention des élèves. « Je déteste ce logiciel », s’agace-t-il. « Il faut bien employer ce mot : haine. » Enseignant en philosophie de l’IA, l’homme maîtrise les recherches sur l’éthique des technologies sur le bout des doigts. 

Yi Zeng (en polo bleu)

Mais à Pékin, il apparaît assez isolé. En juin dernier, le moteur de recherche chinois Baidu a quitté The Partnership on AI (PAI), un groupe international visant à définir des règles éthiques en matière d’IA. C’était son seul membre chinois et sa décision a donc alarmé William Barr, le procureur général des États-Unis. Le 16 juillet, ce dernier exprimé ses inquiétudes face à la volonté du pouvoir chinois d’être le leader mondial de l’IA. 

Sur place, cette surveillance technologique se double d’une surveillance physique. Depuis 2017, la police chinoise se rend chez ses citoyens et même dans les écoles pour faire des prises de sang et compi­ler des infor­ma­tions génétiques. Le gouvernement pourrait bientôt disposer de données sur l’ensemble sa population, soit près d’1,4 milliard d’individus. Chaque profil comprendrait des millions de données. Y seront listés chaque apparition de la personne dans un espace filmé – dans un pays où la seule ville de Shanghai est équipée de 3 millions de caméras – ses communications et ses achats. 

De 2014 à 2020, Pékin a élaboré un « système de crédit social ». Il associe à chaque individu un « risque de menace » pour le Parti communiste grâce à un score de réputation sociale basé sur différents facteurs comme les relations avec les autres et les achats effectués. Si le facteur de risque d’un individu augmente, le système, purement automatisé, limite alors ses mouvements. Il peut lui interdire le passage aux points de contrôle, de voyager en train ou en avion, mais également activer à distance des « serrures intelligentes » dans des espaces publics ou privés, pour le confiner jusqu’à l’arrivée des autorités.

En 2018, un activiste chinois a piraté un système de reconnaissance faciale qui semblait être relié au gouvernement et récoltait toutes sortes de données. Ses algorithmes pouvaient, par exemple, compter les personnes et les voitures pour aider à la synchronisation des feux rouges et à la planification des lignes de métro. Mais la technologie était aussi capable de récolter les données d’une population ou d’une ethnie précise comme les Ouïghours qui, au Xinjiang, sont traqués par des centaines de milliers de caméras de surveillance. 

En octobre 2018, le vice-président américain Mike Pence a qualifié le crédit social chinois de « système orwellien fondé sur le contrôle de pratiquement toutes les facettes de la vie humaine ». Car cette surveillance aussi bien publique qu’intime rappelle évidemment le roman de Georges Orwell 1984.

L’œil de Pékin

Dans son laboratoire de robotique, Yi Zeng gère plusieurs doctorants. Ces derniers manipulent de petits robots humanoïdes enveloppés dans un exosquelette gris dans le cadre de recherches concernant la modélisation du cerveau. Yi affirme que comprendre la structure du cerveau est le moyen le plus sûr de comprendre la nature de l’intelligence artificielle. Puisque les algorithmes fonctionnent un peu comme un cerveau, la technologie sera selon lui bientôt capable d’atteindre la reconnaissance de soi, d’avoir une conscience du passé et de l’avenir et de développer des motivations et des valeurs.

« Je pense qu’une telle machine pourrait être construite d’ici 2030 », prédit le chercheur, qui sait à quel point le président Xi Jinping espère donner à la Chine la suprématie en matière d’IA d’ici la fin de la décennie. Or cette suprématie poserait problème, car le modèle chinois risquerait de déteindre sur le reste du monde. Le gouvernement de Pékin a déjà fourni du matériel de surveillance au Sri Lanka et à la Mongolie : les rues d’Oulan-Bator sont flanquées de caméras de surveillance chinoises assistées par l’IA.

En Serbie, Huawei aide à mettre en place un « système de ville sûre », avec des caméras dotées de reconnaissance faciale et des patrouilles conjointes menées par la police serbe et chinoise pour soi-disant aider les touristes chinois à se sentir en sécurité dans le pays. À travers l’Afrique, les fabrications chinoises équipent les grandes villes de réseaux de surveillance, notamment au Kenya. En Amérique latine, la Chine a également vendu un système de caméras de surveillance pour 240 millions de dollars à l’Équateur. La Bolivie a également acheté du matériel de surveillance grâce à un prêt de Pékin. 

Le logiciel City Brain

Les promoteurs chinois aident à financer la construction d’une nouvelle capitale en Égypte, prévue pour fonctionner comme une « ville intelligente ». Elle fonctionnera grâce à City Brain, un logiciel d’IA commandé par le Parti communiste chinois, qui est capable de synthétiser des flux de données à partir d’une multitude de capteurs répartis dans un environnement urbain. Les caméras mettent en relation la reconnaissance faciale avec des données déjà récoltées par le gouvernement, comme lorsque la police chinoise procédait récemment à des « contrôles de santé » sur son territoire pour lutter contre la pandémie.

Lors de ces contrôles, la police a extrait toutes les données possibles sur les individus. Les Ouïghours ont ainsi vu leur taille relevée, leur ADN prélevé et leur voix enregistrée. Certains ont même été contraints de participer à des expériences qui exploitaient des données génétiques, pour voir comment l’ADN produit des mentons et des oreilles typiquement ouïghours…

Pour le moment, le système de crédit social chinois n’est pas unifié. Mais les données récoltées sont rassemblées par la Banque du peuple et la Commission du développement et de la réforme nationale. L’IA pourrait les aider à parachever cette œuvre terrible. Le système concernait déjà 1,02 milliard de personnes et 28,34 millions d’entreprises à la fin de l’année 2019. Des notes leurs ont été données dans certains domaines, en sorte que 90 000 interdictions de prendre le train ont été délivrées et 300 000 Chinois ont été jugés indignes de confiance.

« Ceux qui ont commis des délits sérieux ne seront pas retirés de la liste noire », prévenait en juillet 2019 Lian Weiliang, adjoint du directeur de la Commission du développement et de la réforme nationale. Avec de telles limites politiques et sociales, la Chine n’est donc plus très loin de 1984. Or ses rêves de suprématie en matière d’IA sont en train d’exporter ce cauchemar.

Couverture : Chad J. McNeeley