Dans le désert de Black Rock, au Nevada, trois lettres bleues fixées à une cage géante refroidissent l’atmosphère enflammée de ces premiers jours de septembre 2018 : ICE. À travers cette installation déployée au festival Burning Man, l’association Mijente pointe du doigt la déportation des migrants opérée par l’Immigration and Custom Enforcement (ICE) sous la présidence de Donald Trump. Un mois et demi plus tard, le mardi 23 octobre 2018, un rapport de la même organisation révèle « qui est derrière ICE ». Il ne s’agit pas d’une officine obscure mais d’une entreprise mondialement connue : Amazon.

« Nous avons appris que les serveurs d’Amazon hébergent Palantir, l’entreprise qui fournit des services critiques à la mission de l’ICE comme son logiciel de gestion des dossiers », indique Mijente. En hausse depuis l’arrivée au pouvoir de Trump, l’activité de cette police spéciale des frontières a plusieurs fois violé les droits humains en séparant des familles, en envoyant des femmes enceintes en détention ou en provoquant des abus sur des personnes mineures. Pour le président de Palantir, Alex Karp, aider ce travail revient à « servir le pays » ce dont il est « fier ». À Amazon, le PDG Jeff Bezos est tout aussi patriote…

Le sale boulot

Le temps passe vite quand on s’appelle Jeff Bezos. Alors qu’il assemble une horloge pour les 10 000 prochaines années dans le Texas, le patron d’Amazon mène en parallèle une infinité de projets, avec souvent un coup d’avance. Il s’apprête à investir un milliard de dollars dans Blue Origin, sa société d’exploration spatiale. À quoi peut rêver l’homme le plus riche de la planète sinon à en conquérir d’autres ? En lorgnant ainsi les étoiles, on le sait, l’avant-gardiste ne reçoit jamais qu’une lumière vieille de plusieurs milliards d’années. Qu’importe : dans sa course échevelée vers le futur, l’entrepreneur chauve a besoin du passé. C’est là qu’il trouve l’inspiration.

Bezos emprunte son idée d’horloge à un article de l’ingénieur en informatique Danny Hillis, publié par le magazine Wired en 1995. L’histoire le guide aussi en rêve à travers la Voie lactée. Ce lundi 15 octobre, sur la scène du SFJazz Center de San Francisco, le PDG commence par jeter un œil dans le rétroviseur. Accueilli à la 25^e conférence Wired par des applaudissements et la musique de Clive Tanaka, il cite les « colonies spatiales géantes » sorties de l’imagination de Gerard K. O’Neill il y a plus de 40 ans. Le journaliste Steven Levy et le public qui lui font face sont même invités à regarder une vidéo dans laquelle ce physicien américain débat avec l’auteur de science-fiction Isaac Asimov.

« O’Neill m’a formé au lycée », confie Bezos. « J’ai lu son livre The High Frontier, ça a résonné en moi, ça faisait sens pour moi. C’était le premier à se poser cette question fondamentale : si nous devons nous développer dans le système solaire, la surface d’une planète est-elle le bon endroit pour cela ? Il a conclu que non. » D’où l’idée de colonies spatiales géantes. Défendant ce point de vue à la télévision américaine, en 1975, Gerard K. O’Neill cède un instant la parole à Asimov. « Je crois savoir pourquoi personne n’y a pensé », soutient l’écrivain. « C’est parce que nous sommes des chauvins de la planète. » Bezos acquiesce.

Le patron d’Amazon a beau se poser en visionnaire, émancipé de tout patriotisme terrestre, il n’en demeure pas moins attaché à son pays. Dans la suite de la conférence, Steven Levy lui fait remarquer que son entreprise vient de signer un gros contrat avec le département de la Défense américain, alors que d’autres prétendants, tels Google, ont préféré ne pas concourir pour des questions éthiques. « Nous allons continuer à soutenir le département de la Défense, car un leader doit savoir prendre les bonnes décisions, même si elles sont impopulaires », répond-il. « Si les grandes entreprises de la tech tournent le dos au département de la Défense, [les États-Unis] vont au devant de gros ennuis. J’aime ce pays. Je sais bien que tout le monde s’écharpe sur la politique actuelle, mais ce pays est un joyau. »

Galvanisé par les applaudissements, le PDG en rajoute : « C’est un pays génial, le meilleur au monde, un endroit où tout le monde veut venir. Et je veux les y accueillir. Mais c’est un grand pays qui a besoin d’être défendu. » Est-ce toutefois à une multinationale de le faire ? Chez Google, certains sont convaincus du contraire. Ils « ont refusé de mettre leur talent au service de projets qu’ils considèrent immoraux », selon la Tech Workers Coalition, un groupe d’employés qui opère dans le domaine des nouvelles technologies. L’implication de leur société dans le projet Maven, qui vise à accélérer le temps nécessaire à l’analyse des images de drones pour le compte du Pentagone, a même déclenché quelques démissions.

Pour en éviter d’autres, Google ne renouvellera pas ce partenariat. Et, le lundi 8 octobre, on apprenait qu’il ne concourrait pas à l’appel d’offre pour la Joint Enterprise Defense Infrastructure, ou JEDI. Autrement il ne faudra pas compter sur les équipes de Sundar Pichai pour placer les données sensibles du département de la Défense sur un système de cloud. « Alors que nous continuons de travailler pour aider le gouvernement américain avec notre cloud dans beaucoup de domaines », a indiqué le groupe, « nous ne formulons pas de proposition pour le contrat JEDI, premièrement car nous n’avons pas pu nous assurer qu’il serait en cohérence avec nos principes en matière d’intelligence artificielle et, deuxièmement, car nous avons déterminé que des parties du contrat dérogeaient à nos accords actuels avec le gouvernement. » Ses dirigeants craignent d’être associés aux opérations du Pentagone qui fauchent des vies.

Cela n’a en revanche pas l’air d’effleurer Jeff Bezos, qui, en plus de briguer le projet JEDI, a déjà commencé à vendre un système de reconnaissance faciale à la police d’Orlando et du comté de Washington, dans l’Oregon. Présenté en novembre 2017, l’outil Rekognition est selon le groupe « capable de détecter des objets et des visages dans les images » mais aussi d’y reconnaître du texte. Pour l’American Civil Liberties Union, une ONG de défense des libertés individuelles, cela « automatise la surveillance de masse ». Ainsi, « les systèmes comme Rekognition représentent une menace pour les communautés déjà injustement visées dans le climat politique actuel. Les gens devraient pouvoir marcher dans la rue sans être épiés par le gouvernement. »

Miss dominicus

Ce 10 août 2017, à Seattle, la cravate violette de James Mattis se balance devant sa chemise blanche. Le secrétaire d’État à la Défense promène son sourire dans le quartier général d’Amazon aux côtés de Jeff Bezos. « C’est un plaisir de l’accueillir », annonce le PDG sur Twitter. Quand, un mois plus tard, le Pentagone publie un mémo annonçant le projet JEDI, « tout le monde savait que ce serait pour Amazon », confie un de ses rivaux au magazine Vanity Fair. Si une telle affirmation n’est évidemment pas confirmée par le mémo, il faut avouer les contacts entre les deux hommes ne sont pas limités à cette visite. Ils ont beaucoup échangé par l’intermédiaire d’une femme, Sally Donnelly.

Après avoir couvert le monde de la défense pour le magazine Time, cette ancienne journaliste a fondé une entreprise de lobbying en 2012, SBD Advisors. Son bureau se trouvait alors à moins d’un kilomètre de la Maison-Blanche, à Washington. Grâce à ses contacts à la NSA et au Pentagone, voilà qu’elle pouvait faciliter « les accords entre le secteur des technologies et de la défense », selon la profession de foi de SBD. Il y avait parmi ses clients Amazon Web Service, l’entité du géant du commerce électronique qui offre des solutions de cloud.

Tout en conseillant les équipes de Bezos, Sally Donnelly s’est rapproché de James Mattis au point de l’aider à obtenir son vote de confirmation du Sénat, lorsqu’il a été désigné secrétaire d’État à la Défense par Donald Trump, en janvier 2017. Une fois investi, il l’a nommée « conseillère spéciale ». Ce rôle aux contours flous s’est vite révélé important, la lobbyiste se comportant en missus dominicus du ministre. C’est elle qui organisait son agenda et prenait ses rendez-vous. Il ne serait donc pas étonnant qu’elle ait planifié la visite de Matthis à Amazon en août 2017.

Deux jours avant d’être engagée par Matthis, Sally Donnelly a officiellement cédé ses parts dans SBD Advisors, récoltant la coquette somme d’1,17 million de dollars. Mais d’après les informations de Vanity Fair, elle a continué à recevoir des paiements de l’agence de conseil, laquelle comptait toujours Amazon parmi ses clients. En février 2018, Donnelly a démissionné. « J’ai toujours su qu’elle retournerait dans le privé et je lui suis reconnaissant », a alors salué le secrétaire d’État à la Défense. « Je suis sûr qu’elle restera engagée dans les problèmes de sécurité nationale que le pays connaît. »

« Le projet JEDI est destiné à augmenter la létalité du département de la Défense. »

Deux semaines plus tard, SDB était rachetée par C5 Capital, une société de capital-investissement sous contrat avec le groupe de Bezos. Sur son site, cette dernière se dit fière de travailler avec Amazon Web Services pour « profiter des opportunités créées par son expansion géographique. » En mai 2017, la vice-présidente de la division «  secteur public international » d’Amazon, Teresa Carlson a déclaré être « en partenariat avec C5 dans le monde depuis longtemps ». Avant de faire la cour à James Matthis, la multinationale a conquis la CIA. En novembre 2017, elle a développé un système de cloud pour l’agence de renseignement, remportant ainsi un contrat d’une valeur de 600 millions de dollars. Dix milliards sont en jeu pour JEDI.

JEDI

Pendant des mois, les lobbyistes de Google, Microsoft, IBM et Oracle ont rôdé autour du Pentagone pour essayer de convaincre ses membres que leur solution était la meilleure. Mais Amazon avait semble-t-il une longueur d’avance. En juillet 2018, le département de la Défense a finalement officiellement publié l’appel d’offre, annonçant qu’il désignerait son bénéficiaire en avril 2019. « Nous cherchons un partenaire qui apprendra avec nous et nous aidera à trouver le meilleur moyen de doter nos combattants de capacités commerciales fondamentales », a annoncé la responsable de l’information du Pentagone, Dana Deasy. Autrement dit, il n’y aura qu’un seul gagnant.

Dès le 6 d’août 2018, le fournisseur de logiciel Oracle s’est officiellement plaint de ce procédé. « L’industrie des technologies innove à un rythme sans précédent dans le domaine du cloud nouvelle génération, et avec la JEDI, le département de la Défense sera bloqué avec le cloud historique pour une décennie ou plus. La méthode du vainqueur unique est contraire à la stratégie à clouds multiples de l’industrie, qui promeut la concurrence constante, en tant que facteur d’innovation et de réduction des prix. » Le 11 octobre, IBM s’est à son tour plaint des conditions d’attribution. « Aucune entreprise dans le monde ne construirait un cloud de la façon dont la JEDI veut le faire, se coinçant ainsi pour une décennie », abonde la société informatique.

Mais si le Pentagone est prêt à se priver des innovations des concurrents d’Amazon, c’est peut-être qu’il ne veut pas éparpiller les informations qui seront sur le cloud. « D’après moi, il semble que le gouvernement veut se couvrir à la base », observe Steven Aftergood, le directeur de la Federation of American Scientists, une organisation qui milite en faveur de la transparence de Washington en matière de sécurité. « Ce système pourrait comporter à peu près tout. Et “tout”, cela inclut des informations sur les systèmes d’armement, les opérations, le renseignement et les armes nucléaires. » Chez les deux postulants les mieux positionnés, la perspective de gérer des données si sensibles effraie.

Au mois de juin 2018, le PDG de Google Sundar Pichai a présenté les principes de son groupe en matière d’intelligence artificielle dans une note de blog. Il y promet qu’aucune arme ne sera développée, ni aucune technologie susceptible de causer des dommages globaux. Pichai exclut également les systèmes qui rassemblent ou utilisent l’information issue de la surveillance, pour peu qu’elle ait été récoltée en violant les normes internationales. Ces dernières dont d’ailleurs citées au même titre que les droits de l’Homme comme des valeurs cardinales. En refusant d’héberger les données JEDI sur son cloud, Google donne donc indirectement une idée de ce qui pourrait s’y trouver…

Dans une lettre anonyme publiée le 13 octobre 2018, un·e employé·e de Microsoft prie son entreprise d’en faire de même. Ce programme, a déclaré l’officier John H. Gibson selon les propos rapporté par l’auteur, « est vraiment destiné à augmenter la létalité du département de la Défense ». Or, lui n’a aucune envie d’aider à accomplir pareille ambition. « Quels sont les principes de Microsoft en matière d’intelligence artificielle, notamment vis-à-vis de ses applications violentes ? » demande-t-il avant de conclure : « Microsoft, ne participez pas à la JEDI. » Contrairement à Google, la société de Bill Gates ne figure pas au rang des 241 organisations qui se sont engagées en juillet à de ne pas développer d’armes autonomes. «  La décision de prendre une vie humaine ne doit jamais être déléguée à une machine », peut-on y lire. Le nom d’Amazon y brille aussi par son absence, bien que certains de ses spécialistes y souscrivent à titre individuel. 

« Nous suivons les pas des Googlers qui se sont élevés contre le contrat Maven et des employés de Microsoft qui ont protesté contre le contrat JEDI », écrit un salarié du géant du commerce électronique dans une autre lettre anonyme parue le 16 octobre. Il fait partie des quelques 450 personnes qui ont signé un appel à l’abandon du système de reconnaissance faciale « Rekognition » vendu aux polices locales. « Nous ne construirons pas de technologie pour opprimer et tuer des gens dans notre pays ou dans d’autres », ajoute-t-il.

La veille de sa lettre, Jeff Bezos reconnaissait sur la scène du SFJazz Center de San Francisco que « la technologie est toujours à double-tranchant. Vous savez qu’elle peut être mal utilisée et ce n’est pas nouveau. » Le passé regorge d’exemples. Mais pour le « joyau» américain, il est prêt à prendre le risque.

Couverture : Jeff Bezos sur le front. (Fortune/Universal/Ulyces)