Des scientifiques de l’université de Madrid viennent de rendre leur verdict concernant l’une des plus grandes peurs de l’humanité. D’après leurs résultats, il serait presque impossible de contrôler une intelligence artificielle supérieure, si l’homme parvenait à en mettre une au point, rapportait Tech Times le 13 janvier.
Le hic, c’est que contrôler une super-intelligence exigerait des connaissances qui vont au-delà de la compréhension humaine. Il faudrait mettre au point une simulation de cette super-intelligence, possible à analyser. Mais si nous ne pouvons plus comprendre la nature de cette intelligence, impossible de créer une telle simulation. Une fois qu’un système informatique fonctionnera à un niveau d’intelligence supérieur à celui de ses développeurs, nous ne pourrons plus lui fixer de limites, expliquent les auteurs de l’étude.
« Une super-intelligence pose un problème fondamentalement différent de ceux généralement étudiés en “éthique des robots” », expliquent les chercheurs. « Une super-intelligence a de multiples facettes. Elle est donc potentiellement capable de mobiliser une diversité de ressources afin d’atteindre des objectifs potentiellement incompréhensibles pour les humains, et encore moins contrôlables. »
Une partie du raisonnement de l’équipe vient du problème mis en avant par Alan Turing en 1936. Il montre qu’il est impossible de prévoir si un programme informatique parviendra ou non à une réponse, ou s’il tournera en boucle pour toujours en essayant d’en trouver une. Tout programme écrit pour empêcher l’IA de nuire aux humains et de détruire le monde serait soumis à cette même règle. Il est donc mathématiquement impossible pour nous d’être absolument sûrs qu’une telle IA pourrait être contrôlée…
Mieux vaudrait donc ne pas la développer – ou veiller à ce qu’elle puisse être débranchée.
Source : Tech Times
