Ce texte est rédigé d’après ma conférence TEDx de Liège, 26 juillet 2017. Que le lecteur pardonne les raccourcis et les intuitions non démontrées… ce sont les conséquences d’un TedTalk qui se voulait pédagogique et inspirant.

Je devais avoir 12-13 ans, je crois, quand j’ai rencontré l’intelligence artificielle au détour d’une encyclopédie. Je suis tombé sur cet objet magnifique en cuivre laiton : le calculateur arithmétique de Pascal, autrement nommé la pascaline. En 1640, le jeune Blaise Pascal, qui avait alors 19-20 ans, a eu l’idée de réaliser une machine à faire des opérations arithmétiques : des additions, des soustractions, et même des multiplications.

J’étais vraiment fasciné par le fonctionnement de cette machine. En particulier, quand vous additionnez 999 + 1, vous avez une retenue qui doit se déplacer du début jusqu’à la fin pour arriver à 1 000. Et je voyais comment, à l’intérieur, ces engrenages permettaient à cette retenue de se propager d’engrenage en engrenage, pour arriver au plus haut chiffre. C’était pour moi la première manifestation du fait que quelque chose de mécanique pouvait effectuer une opération mentale très importante — puisqu’on avait appris à calculer à l’école. Du coup, il me semblait qu’il n’y avait pas de limites à cette idée qu’on peut réaliser une intelligence artificielle à partir de mécaniques.

De la pascaline au neurone

Il y a aussi ce livre d’un biologiste espagnol, Ramón y Cajal, qui est le premier, fin du XIXe siècle, début du XXe siècle, à comprendre que le cerveau n’était pas de la cervelle, ni une masse blanchâtre. À l’intérieur, avec un microscope, on voyait les neurones. Et on voit très distinctement, dans ses diagrammes, que le neurone prend ses informations par des centaines ou des milliers de connexions dans les dendrites, amène cette information sur le corps cellulaire du neurone, et ensuite prend une décision et envoie d’autres informations à travers son axone, pour lui-même activer, avec un influx nerveux, d’autres neurones. Ramón y Cajal a bien vu qu’un neurone n’était pas un fil électrique : l’information va dans un sens. Il a donc compris le fonctionnement du neurone.

Le microprocesseur et le neurone

Voilà les deux acteurs de cette discussion sur l’intelligence artificielle.

D’un côté, le lointain descendant de cette machine de Pascal : le dernier microprocesseur, bête de course de l’entreprise Intel. Sept milliards de transistors dans quelque centimètres carrés — autant que d’êtres humains sur Terre —, un milliard d’opérations par seconde. Avec la machine de Pascal, on faisait une opération toutes les 30 à 40 secondes.

De l’autre, un morceau de cortex d’une souris, la souris arc-en-ciel, qui a été modifiée pour qu’on voie distinctement, dans des couleurs différentes, chacun des neurones qui le composent. Notre cerveau à nous, c’est 100 milliards de neurones, reliés en moyenne par 10 000 synapses à d’autres neurones. Ça, c’est l’intelligence biologique.

Du neurone formel au Deep Learning

Depuis les années 1950-1960, on a progressivement essayé de réaliser en électronique, avec du logiciel, avec des ordinateurs, la même chose que ce que fait notre neurone. Ça part de l’idée qu’on peut représenter mathématiquement son fonctionnement.

Pour faire très simple, le neurone prend ses 10 000 entrées ; chacune d’entre elles est amplifiée ou atténuée en fonction de l’apprentissage. C’est lui qui, tout au long de votre vie, va peu à peu modifier vos poids synaptiques, pour que ces informations venant des autres neurones soient pondérées avant d’être additionnées dans le cœur du neurone. Et puis, si ça dépasse un certain seuil, le neurone envoie un influx nerveux vers un autre neurone, ou vers des milliers d’autres neurones.

On fait pareil dans nos ordinateurs : on empile des couches de neurones — ça s’appelle le Deep Learning, ou les réseaux neuronaux. Et on a découvert comment modifier progressivement les poids de ces réseaux neuronaux, implémentés en logiciel, pour qu’ils soient capables d’apprendre de nouvelles tâches. Ça marche comme ça dans notre cerveau : je vois une image, je réfléchis, je décide d’agir.

Un exemple de tâche parmi d’autres, c’est la reconnaissance d’objets dans une image. La base de données ImageNet contient 14 millions d’images. Il a fallu que des êtres humains, vous et moi, annotent ces 14 millions d’images avec plus de 80 000 concepts. Il y a des chats, des chiens, des chevaux, des fourchettes, des camions, tout ce que vous pouvez imaginer ; tout ça a été annoté à la main.

Depuis 30 à 40 ans, on essaie d’améliorer la capacité d’un ordinateur à reconnaître un chat d’un chien dans une image. En 2011, il y avait 25 % d’erreurs. Chaque année, ça progressait de 0,2 ou 0,3 %. En 2012 est arrivée une équipe de Toronto avec du Deep Learning : on a divisé par deux, et on est arrivé à 12 % d’erreurs. L’année d’après, Google, avec beaucoup de moyens et plus de neurones artificiels, arrive à 6 % d’erreurs. Aujourd’hui, sur cette tâche-là, la machine est plus performante que chacun d’entre nous. Elle reconnaît des objets dans des images même quand les conditions d’éclairage sont mauvaises, même avec peu de pixels. Sur une image très floutée, vous ne reconnaissez pas la personne ; la machine, si. Sur une tâche spécialisée, la machine est meilleure que nous.

Vision plus poétique : trois réseaux de neurones ont collaboré — celui qui reconnaît l’image, celui qui synthétise le texte, et celui qui a appris à écrire de manière manuscrite. Ensemble, ils font ce que ma grand-mère savait faire : mettre une légende sur une carte postale. « Un grand pont enjambant la largeur d’une rivière. »

L’autruche de Job

Les réseaux de neurones font aussi des erreurs. Prenez une mante religieuse et un chien — en l’occurrence un bichon frisé. En modifiant un tout petit peu ces images, de manière imperceptible — pour vous, c’est toujours un insecte et un chien —, le réseau de neurones, qui ne faisait aucune erreur, va en faire une : dans les deux cas, il trouve que c’est une autruche.

Ça prouve que ce qui est écrit dans la Bible est vrai, puisque vous trouverez, dans le livre de Job : « Dieu a privé l’autruche d’intelligence. » Un réseau de neurones nous prouve aujourd’hui ce qui est écrit dans la Bible.

IA faible, IA forte

Ça, c’est de l’IA faible : une intelligence artificielle spécialisée. Aujourd’hui, pour n’importe quelle tâche spécialisée, si vous avez des données d’apprentissage et que vous payez suffisamment de scientifiques pour organiser le réseau de neurones et faire l’apprentissage, on peut faire aussi bien, ou même mieux, que le spécialiste humain de cette tâche. Par exemple, reconnaître une cellule cancéreuse dans une image médicale, ou piloter un réseau télécoms mieux que nous sommes capables de le faire.

Mais il ne faut pas se méprendre sur la capacité réelle de ces algorithmes. Ils sont certes très puissants, mais en termes de complexité algorithmique, c’est à peu près entre l’intelligence de la fourmi et celle de la grenouille. C’est ça qu’on a dans les meilleurs réseaux de neurones aujourd’hui.

Et se pose la question de l’IA forte : une IA aussi puissante, voire plus puissante, que nous-mêmes. Il y a des tas de gens qui font des prédictions. M. Kurzweil, prospectiviste vaguement transhumaniste — même complètement transhumaniste sur les bords —, disait en 2010 : « En 2040, vous aurez des IA des milliards de fois plus performantes qu’un esprit humain. » C’est ce qu’il appelle la singularité : une IA plus intelligente qu’un être humain, capable de s’améliorer rapidement elle-même, et donc, de manière exponentielle, de nous exploser tous. Je ne crois pas un instant que cela se réalisera.

Ray Kurzweil, cité dans Time Magazine (2010).

Regardez le progrès de l’électronique : tous les ans, les ordinateurs s’améliorent. Mais notre cerveau progresse aussi ! En fait, ce qui progresse, c’est l’estimation que font les scientifiques de la capacité du cerveau. Tous les ans, la littérature scientifique dit qu’il est plus puissant, qu’il fait plus d’opérations que ce qu’on croyait. Ça va aussi vite que l’électronique. Donc, les deux courbes vont peut-être ne jamais se rencontrer.

Le progrès de l’électronique face aux estimations de la capacité du cerveau (en orange, la capacité de calcul d’un microprocesseur, en bleu l’estimation de la puissance de calcul du cerveau humain)

Plus sérieusement, je pense que l’IA forte, en termes de capacité brute de calcul, c’est dans longtemps : plus loin que 2050, et peut-être même au-delà.

Qu’est-ce que l’intelligence ?

En fait, ce n’est pas le véritable sujet qui m’intéresse. Le vrai sujet, c’est de comprendre ce qu’est vraiment l’intelligence. Et j’aime bien cette définition : « L’intelligence, c’est la manière de parvenir à des buts, dans le monde, grâce à des calculs. »

Je passe sur les calculs : avec des rouages, de l’électronique ou du biologique, ce sont des calculs. L’important, c’est « dans le monde » — et il y en a plein de différents. Notre monde, celui du microbe, celui d’une bactérie au fin fond d’une source hydrothermale : ce ne sont pas les mêmes mondes. Les buts ne sont pas les mêmes, et donc les intelligences sont variées.

L’intelligence n’est pas cette suite de degrés qu’on dessine souvent. On n’est pas les plus intelligents parce qu’on a évolué de manière linéaire à partir du singe et de plein d’autres choses avant. Non. L’intelligence humaine est extrêmement variée. Nous sommes capables de percevoir et de reconnaître des formes dans une image, de reconnaître des chaises et des personnes ; de raisonner et de décider, ce qui est beaucoup plus dur — surtout de décider, me semble-t-il ; d’agir, ce qui est encore plus dur, car on agit dans des mondes complexes ; d’interagir, et donc de bénéficier de l’intelligence des autres et de faire partager la nôtre. Et surtout d’avoir des connaissances extrêmement variées. Celles d’un plombier et celles d’un physicien nucléaire n’ont rien à voir. Et il vaut mieux être plombier quand on a une panne d’eau.

L’IA d’aujourd’hui fait mieux que nous dans certains domaines très précis, et pas du tout dans tous les autres.

La vie calcule

En fait, nous, êtres humains, ne sommes rien dans cette création. Sur la roue de tous les organismes qui vivent sur Terre, on est tout petits, Homo sapiens, au milieu d’espèces allant des protozoaires aux plantes, en passant par les champignons et les oiseaux. Il y a des millions de formes de vie, chacune douée de formes d’intelligence. Parce que la vie calcule !

Nos ribosomes sont de microscopiques ordinateurs chimiques, qui calculent en permanence. La fourmi qui se déplace en lâchant des phéromones pour guider les autres sur le chemin de la nourriture, c’est une forme d’intelligence individuelle et collective. Les bactéries échangent des transmetteurs chimiques.

Voilà une forme d’intelligence très spécialisée : le cassenoix d’Amérique. Il a comme spécialité, juste avant la fin de l’été, de cacher 10 000 graines de pin pour faire ses petites réserves pour l’hiver. Il les met par paquets de 5 ou 10, soit un millier de caches dans la forêt : sous un arbre, sous une feuille, parfois dans la terre. À la fin de l’hiver, il va retrouver ses mille caches. Avec sa petite cervelle d’oiseau ! Avant que vous en soyez capable, ou qu’une IA soit entraînée par Google pour faire la même chose, on prendra un petit peu de temps. Il n’y a que lui qui sait le faire, et, je pense, pour un certain temps.

Une autre forme d’intelligence, beaucoup plus microscopique, anime deux espèces différentes : un champignon d’à peu près dix micromètres et des bactéries. Ces deux espèces parlent entre elles une langue — la langue la plus parlée sur Terre. Ce n’est pas l’anglais, ce n’est pas le français : c’est le terpène, une molécule chimique qui s’échange entre ces deux espèces, et d’ailleurs entre bien d’autres, et qui fait que l’une réagit au comportement de l’autre. Donc il y a communication, donc il y a intelligence.

Un dernier exemple, dans le sous-sol d’une forêt. Les arbres communiquent entre eux — encore des molécules chimiques — pour s’avertir des prédateurs qui sont arrivés, et se préparer en réagissant chacun. Mieux que ça : des scientifiques ont démontré depuis quelques années que leurs racines sont reliées, ou, dans le cas contraire, reliées par des filaments de mycélium de champignons, capables de transporter des nutriments d’un arbre à l’autre, mais aussi des informations sous forme électrique ou chimique. Et donc, là encore, d’alerter, de transmettre, et de créer ce que des scientifiques ont appelé le « Wood Wide Web », le World Wide Web des arbres : un réseau très complexe dans chaque forêt du monde — en tout cas dans les forêts naturelles, beaucoup moins dans les forêts plantées par l’homme.

Cet écosystème vivant fonctionne, de loin, comme notre cerveau : des milliers d’organismes interagissant, avec des décisions, des communications, le tout coexistant.

Une biosphère d’intelligences

La biosphère, notre biosphère, est constituée d’intelligence à toutes les échelles : la nôtre, avec nos grands cerveaux extrêmement capables, mais aussi celle des arbres ou des bactéries.

La biosphère est constituée d’intelligences qui coévoluent.

Et si on regarde la complexité de cette biosphère en puissance de calcul, quelques ordres de grandeur suffisent. Entre la plus grande puce que j’ai évoquée et notre cerveau humain, il faut multiplier par au moins 10 millions la puissance de calcul pour arriver à l’équivalence. Si on est 10 milliards d’humains, on peut imaginer que, tous ensemble, on est 10 milliards de fois plus intelligents qu’un seul. Parfois, on peut se le demander… Mais si on regarde la capacité totale de toutes les espèces et de tous les organismes qui peuplent la Terre, il y a plus d’intelligence dans les bactéries, au total — il y en a beaucoup — qu’il n’y en a dans la somme des êtres humains.

Les 10²² organismes vivant sur Terre calculent ensemble. Ils ont ces interactions, ils sont intelligents dans des mondes très différents, des mondes qui sont, pour le coup, relativement inaccessibles pour le moment à l’intelligence artificielle.

Coexister et coévoluer

Ce que je voudrais que vous gardiez, ce n’est pas tant l’idée que, peut-être, un jour, une IA comme celle de 2001, l’Odyssée de l’espace va décider de prendre le pouvoir et de nous éliminer tous. C’est le fait que cette IA dite forte, même si elle existait — et ce serait dans très longtemps —, serait cantonnée dans des niches de spécialités, qui sont celles qu’un ordinateur peut avoir.

Nous avons des sens, nous avons un écosystème, nous vivons avec une biosphère qui nous entoure, et cette biosphère peut être analysée comme une vaste intelligence — en tout cas, un écosystème d’intelligences. Elle va coévoluer avec des IA qui, certes, vont devenir de plus en plus puissantes en termes de puissance de calcul, qui, certes, vont être capables d’attaquer des tâches de plus en plus sophistiquées, peut-être même un jour d’avoir certaines formes de créativité. Si vous avez vu le logiciel DeepDream, vous vous dites : « Tiens, l’IA a pris du LSD. »

On a donc cette coexistence entre formes d’intelligence à des échelles et à des degrés de compétence très diversifiés, dans un monde très diversifié. Et ça, c’est fascinant à observer.

Il n’y pas de raison d’en avoir peur. Comme toute technologie, des choses vont se passer en bien et en mal. La vraie peur à avoir est celle qu’on doit avoir de nous-mêmes, de la manière dont nous gérons ce monde.

Cette IA, tant qu’elle reste dans des ordinateurs, tant qu’elle n’est pas ancrée dans une réalité — dans des sens, dans des émotions, dans de la chimie, dans de la physique —, il lui manquera une grande partie de l’intelligence de notre monde. Elle ne saura pas ce qui se passe au fond des océans, entre les racines des arbres. Ce qui est vraiment important, c’est la coexistence, la coévolution de cette IA, qui va évoluer et s’améliorer, et de notre biosphère, dans laquelle nous vivons.