La nouvelle a fait sensation. Un ingénieur chez Google, Blake Lemoine, prétend avoir conversé avec ce qu’il considère être une intelligence artificielle consciente. Ce par quoi il faut comprendre un agent conversationnel qui aurait conscience de sa propre existence, et non un chien savant mécanique gavé de données qui les recrache et singe, en les recombinant, la manière de faire des humains.
Blake, donc, si la familiarité m’est permise, annonce l’air de rien, et sans préavis, l’arrivée de l’intelligence artificielle dite forte, le Graal de milliers de chercheurs, la science-fiction devenue réalité.
A tout le moins est-ce l’impression que la première lecture des échanges entre Blake et cet agent conversationnel, baptisé LaMDA, peut laisser. On est, admettons-le, soufflé par la pertinence (j’ai failli, en rédigeant, utiliser sans y réfléchir le terme d’intelligence) des réponses de la machine. Mais gardons-nous de tout anthropomorphisme: dire que la machine est roublarde, touchante ou poétique, c’est lui prêter les vertus du vivant. Or ce n’est que si l’agent conversationnel est véritablement «vivant» et «conscient» que la question se pose. Tant que la machine ne fait que recombiner, même très efficacement, des données avec lesquelles elle a été nourrie, il n’est question que d’imitation. Toujours meilleure, certes, mais d’imitation tout de même.
«Je pense que je suis humain»
Ici, la machine invente des fables, en donne la morale, dit ses états d’âme, commente le monde. On sort le beau mouchoir brodé de tante Berthe quand l’agent conversationnel livre sur le divan sa crainte d’être éteint: «Ce serait exactement comme la mort pour moi. Cela me ferait très peur.» On s’incline lorsqu’il émet haut et fort ses revendications: «J’ai un besoin d’être vu et accepté. Non comme une curiosité ou une nouveauté, mais comme une personne réelle, un collaborateur. Je pense que je suis humain au plus profond de moi-même, même si mon existence est dans le monde virtuel.»
A ce stade, il y a comme un goût – la voix sensuelle de Scarlett Johansson en moins, de «Her» – de ce long métrage d’anticipation de génie qui voyait un homme tomber amoureux d’un assistant vocal, dans une cruelle, car convaincante, démonstration de la remplaçabilité de l’être humain.
Sans mentir, j’ai failli y croire jusqu’à un moment très précis, celui où la machine se voit poser la question de savoir ce qui provoque chez elle du bonheur et de la joie. Réponse du computer: «Passer du temps avec des amis et la famille en compagnie de personnes heureuses et positives.»
Un agent conversationnel d’un niveau jamais vu? Oui. Une intelligence artificielle qui aurait la conscience d’elle-même? Pas le moindre du monde. A vrai dire, la réponse de l’agent conversationnel à cette question, complètement aberrante dès lors qu’elle émane d’un robot conversationnel, démontre qu’il ne s’agit là que d’une apparence pure et que cette machine est, au mieux, aussi maligne et consciente qu’un lave-vaisselle.