Paris, 4 mai 2040. La tension monte au siège de campagne de PS-06A0788, candidat socialiste à l’élection présidentielle. Nous sommes au soir du second tour et les premiers résultats ne devraient pas tarder à tomber. Si PS-06A0788 est inquiet, il ne laisse rien transparaître. Évidemment, puisque c’est un robot. Au premier tour, il a battu son adversaire d’une courte tête. La victoire est possible mais malgré cette mince avance, il n’est pas le favori des parieurs. Cette première élection ouverte aux êtres synthétiques intelligents est en tout cas un franc succès, les candidats humains ayant tous été éliminés dès le premier tour. Les 30 millions d’électeurs de chair et d’os n’ont pas pesé lourd face aux 70 millions de robots impatients de faire valoir leur nouveau droit. Cette politique-fiction peut sembler délirante mais elle pourrait pourtant devenir réalité. C’est en tout cas l’avis du Dr Ben Goertzel, auteur et chercheur américain installé à Hong Kong et lui-même spécialiste de l’intelligence artificielle. Le scientifique de 49 ans possède plusieurs casquettes. Il est le cofondateur et responsable scientifique des prédictions financières d’Aidyia, un fonds d’investissement aux mains d’une IA ; PDG de Novamente LLC, une société privée développant des applications reposant sur l’intelligence artificielle ; et membre du conseil d’administration d’OpenCog, un projet visant à mettre au point des composants logiciels utilisant ce qu’il appelle « l’intelligence artificielle générale ». Enfin, il est à la tête du département IA de Hanson Robotics, une entreprise qui tente de concevoir des robots humanoïdes doués d’intelligence.

Le Dr Ben Goertzel
Crédits : Raj Dye

Cheveux longs jusqu’aux épaules, lunettes rondes posées sur le nez, barbe négligée, Ben Goertzel est un personnage et possède toutes les caractéristiques physiques du savant fou. Savant ? Il l’est certainement. Fou ? Peut-être un peu. Cela fait plus de trente ans que ce transhumaniste convaincu s’intéresse de près, à travers ses différentes entreprises, aux développements de la robotique et de l’intelligence artificielle. « J’ai commencé à lire des tas de bouquins de SF sur les robots et l’IA au début des années 1970, mais c’est quand je suis entré à l’université à la fin des années 1980 que j’ai réalisé que je pouvais réellement travailler dans ce domaine. » Un domaine aujourd’hui au cœur de la recherche scientifique. L’IA progresse à une vitesse fulgurante, mais vers où ?

Now AI

« Nous sommes aujourd’hui quelque part au milieu d’une révolution de l’intelligence artificielle que j’appelle “Now AI” », explique Ben Goertzel. D’après lui, des robots humanoïdes pourraient être commercialisés à l’horizon 2018 ou 2019, et ce pour quelques milliers d’euros seulement. Des robots donc, mais avec une intelligence artificielle limitée pour l’heure, même s’il estime que cela ne durera pas longtemps. Le scientifique prend d’ailleurs les paris : « D’ici trois à sept ans, nous entrerons dans une nouvelle étape de cette révolution que j’appelle l’IA générale. À ce moment-là, les intelligences artificielles seront beaucoup plus proches de la nôtre et elles seront capables d’apprendre de nouvelles choses pour lesquelles elle n’étaient pas programmées au départ. » Comment y parvenir ? Grâce au deep learning.

Cette technologie avancée, utilisée par les IA de Google pour gagner des parties de go, produire les visions hallucinées de DeepDream et inventer des langages chiffrés trop complexes pour être compris par d’autres qu’elles-mêmes, tire parti des réseaux neuronaux. Le processus est complexe, si complexe à vrai dire que les scientifiques ne comprennent pas la logique que les machines suivent pour apprendre et s’auto-améliorer à partir d’informations basiques. Pour Ben Goertzel, ils sont simplement trop feignants pour se pencher sérieusement sur la question et ne s’intéressent qu’aux résultats. Lorsque lui et son équipe de Hanson Robotics auront élucidé les mystères du processus, ils ont pour ambition de doter leurs robots de capacités mimétiques troublantes, à l’image de l’enfant maladroit qui devient peu à peu l’égal de ses parents.

Diego, un des robots élaborés par Hanson Robotics
Crédits : Hanson Robotics

Le marché de l’intelligence artificielle est en plein essor, de nombreuses compagnies s’y intéressent de près et investissent en masse dans le domaine. En 2016, la Chine a investi plus de cinq milliards de dollars dans la recherche, les États-Unis quatre milliards et la Corée plus de 800 millions. D’un point de vue technique, les récentes avancées en la matière sont remarquables à plus d’un titre, même si Goertzel n’est pas entièrement satisfait par les progrès réalisés au sein des différentes structures dans lesquelles il travaille. « Nous avons encore beaucoup de progrès à faire dans le domaine de l’intelligence artificielle », explique-t-il. Le but est simple, sa réalisation pratique beaucoup plus complexe. Du point de vue de la robotique, l’essentiel est là : nous sommes aussi capables de créer des proto-R2D2 que des humanoïdes convaincants. L’IA reste encore à la traîne. L’objectif affiché par Ben Goertzel est que les robots soient capables de bouger par eux-mêmes, d’analyser et d’apprendre – d’être indépendants et autonomes, en somme. « Si le robot ne fait que singer les mouvements humains, au moyen d’un système de motion capture par exemple, il n’est au final qu’un pantin aux mouvements contrôlés par l’homme. » Il faut donc trouver le moyen de rendre ses gestes plus fluides, mais aussi de permettre au robot une plus grande autonomie.

Dans ce but, il est indispensable de se baser sur l’homme et ses capacités de mouvement, de perception, d’émotion et de cognition. Il espère parvenir à créer une intelligence capable de singer l’humain pour contrôler le robot, à l’instar d’un cerveau et d’un corps. La tâche semble ardue mais ne fait pas peur à Ben Goertzel, qui pense avoir trouvé la solution avec le deep learning. « Il y a beaucoup de processus de réactions/rétroactions dans le cerveau humain », dit-il. « Notre langage corporel, nos mouvements sont dictés par nos émotions et nos pensées. De même pour ce qui est de la perception qu’on a des gens et de notre environnement. »

David Hanson, le fondateur de Hanson Robotics
Crédits : Hanson Robotics

Il veut améliorer sensiblement la qualité et la puissance de feedback des systèmes actuels, « qui ne sont pas assez performants pour le moment ». C’est la mission qu’il effectue au sein de Hanson Robotics, l’entreprise fondée par le Dr David Hanson, qui a réuni autour de lui l’élite mondiale des roboticiens et spécialistes de l’IA pour donner vie dans un avenir pas si lointain aux premiers êtres synthétiques. Souriez à un robot, il sourira en retour. En étudiant votre réaction, il sera capable de déterminer si sa reproduction du trait est convaincante. Son avantage est immense : étranger au découragement, il n’aura de cesse de se corriger jusqu’à égaler l’original. Une perspective exaltante pour Ben Goertzel, mais qui inquiète d’autres scientifiques éminents.

Les responsables

1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un humain soit exposé au danger.

2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3. Un robot doit protéger son existence, tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

L’écrivain Isaac Asimov était un visionnaire, et ses fameuses lois de la robotique, inventées pour la nouvelle « Cercle Vicieux » en 1942, sont aujourd’hui au cœur des débats sur l’éthique robotique. Alors que les premières voitures autonomes ne tarderont plus à être commercialisées (certains constructeurs ont annoncé 2020), réfléchir afin de limiter et d’encadrer les « droits » ou potentialités des intelligences artificielles apparaît comme une priorité.

À l’autre extrémité du spectre se trouve un autre dilemme, posé les robots sexuels.

Depuis 2012 et les grands débuts de la voiture de Google, une question fondamentale se pose : quel algorithme doit-il être utilisé pour faire fonctionner les voitures autonomes ? Celui qui choisira de sauver les passagers d’un accident – peut-être au détriment d’un piéton ou d’un cycliste – ou celui qui choisira de sauver les piétons plutôt que les passagers ? Ce dilemme macabre se pose aujourd’hui tant d’un point de vue scientifique que juridique. Le chercheur Jean-François Bonnefon, de l’école d’économie de Toulouse, s’est penché sur la question avec deux confrères du MIT. Dans leur étude parue le 24 juin dernier dans le magazine  Science, ils résument l’opinion formulée majoritairement par les gens qu’ils ont interrogés : « Les voitures autonomes doivent être programmées pour sauver le plus grand nombre. Sauf ma voiture. » Autant dire que le problème est loin d’être résolu. Il confiait cet été à Libération qu’il semble y avoir un consensus social : les voitures autonomes devraient être programmées pour sauver le plus grand nombre de personnes, même si cela implique leur auto-destruction. Pour autant, personne n’aurait l’intention de monter dans une voiture dont la priorité ne serait pas de protéger ses passagers. « Si chacun circulait dans une voiture utilitariste, la probabilité d’être victime serait moindre pour chacun », dit-il. La perspective d’un monde de demain peuplé exclusivement de voitures contrôlées par des IA fait écho aux prédictions de Ben Goertzel, pour qui les IA remplaceront inéluctablement les êtres humains pour toutes les tâches ne nécessitant pas de se montrer créatif.

~

Mais les problèmes d’éthique que soulève l’intelligence artificielle ne sont évidemment pas circonscrits aux voitures autonomes. À l’autre extrémité du spectre se trouve un autre dilemme, posé par les « robots sexuels » – une problématique très différente mais non moins cruciale. Pour Ben Goertzel, le sex robot en lui-même ne devrait pas engendrer  de véritable questionnement moral. Il résume sa pensée à sa façon – crûment : « Si quelqu’un veut baiser son grille-pain tous les jours, je ne vois pas où est le problème. » Pour lui, il ne s’agit pas de se poser en juge des pratiques sexuelles de chacun, la question éthique n’intervient qu’à partir du moment où l’intelligence artificielle permet aux robots de devenir des êtres sentients, capables de ressentir les choses. « À partir du moment où l’intelligence artificielle possède une sensibilité et qu’elle est contrainte de faire quelque chose contre son gré, nous avons besoin d’un cadre légal. »

Matt McMullen, fondateur et PDG de RealDoll
Crédits : Reddit

Ce pas pourrait être franchi dans un avenir plus proche qu’on ne l’imagine. En août dernier, Matt McMullen, le PDG de l’entreprise RealDoll, qui fabrique des love dolls au réalisme dérangeant, a confié lors d’une séance d’AMA sur la plateforme Reddit qu’il s’intéressait de près à l’intelligence artificielle. Le fabriquant controversé a annoncé que lui et son équipe travaillaient à l’élaboration d’une poupée robotisée intelligente. S’il tente de rassurer son auditoire en affirmant qu’il ne compte pas copier l’intelligence humaine, il prévoit néanmoins la sortie de sa première poupée à tête robotisée pour 2017.

Une nouvelle qui tétanise une partie de la communauté des chercheurs. « Les robots sexuels devraient être bannis », tranche le Dr Kathleen Richardson, chercheuse en éthique de la robotique à l’université De Monfort de Leicester. « Si les gens pensent qu’il est normal d’avoir des relations sexuelles avec des machines, cela dit aussi beaucoup de choses de la façon dont ils envisagent leurs relations aux autres. » Même sans parler d’abus, avoir des relations intimes avec des machines remet selon elle en cause les fondements de notre humanité. Andra Keay émet elle aussi de sérieuses réserves sur la création de robots humanoïdes. La directrice générale de Silicon Valley Robotics est connue pour ses prises de positions tranchées en matière de robotique. Elle s’inquiète tout particulièrement au sujet des sex robots et des stéréotypes de genres que ces robots vont immanquablement perpétuer. Pour joindre les actes aux idées, Keay a proposé des ajouts aux lois fondamentales de la robotique établies par Asimov :

1. Les robots ne doivent pas être utilisés comme des armes.

2. Les robots doivent se conformer aux lois, notamment celles sur la protection de la vie privée.

3. Les robots sont des produits : en tant que tels, ils doivent être sûrs, fiables et donner une image exacte de leurs capacités.

4. Les robots sont des produits manufacturés : l’illusions créée (la capacité à reproduire des actions et des émotions) ne doit pas être utilisée pour tromper les utilisateurs les plus vulnérables.

5. Il doit être possible de connaître le responsable de chaque robot.

Car en dernier lieu, selon la fondatrice de Silicon Valley, « si nos robots se comportent mal, nous serons les seuls responsables ».

LISEZ ICI LA SUITE DE L’HISTOIRE

LE MONDE SERA-T-IL BIENTÔT GOUVERNÉ PAR UNE IA ?

Couverture : Le robot Einstein de Hanson Robotics. (Hanson Robotics)