I.A. pour Imitation Artificielle

par Hervé Van Baren

Google a fait récemment le buzz avec la présentation des dernières fonctionnalités de son assistant téléphonique. La vidéo présentée https://www.youtube.com/watch?v=D5VN56jQMWM est, de l’avis des médias spécialisés, bluffante. On y entend une conversation entre l’IA (l’Intelligence Artificielle) et une employée d’un salon de coiffure, puis d’un restaurant. L’IA a pour tâche de fixer un rendez-vous pour un humain bien réel. Il y a 70 ans, le mathématicien Alan Turing inventait le test qui porte son nom. Si une machine est capable de faire croire à un humain qu’elle est humaine, c’est qu’elle a atteint la conscience. Il semble bien, à entendre ces conversations, qu’on en soit là. Qu’en est-il vraiment ?

La seule chose qui rapproche l’IA d’un humain, c’est… l’imitation ! Dès lors, il n’était pas concevable de ne pas en parler dans ce blogue. L’algorithme qui gère la conversation s’appuie sur une technologie éprouvée, la reconnaissance vocale. Comment ça marche ? Un système d’IA est au départ une boîte vide (contenant l’algorithme proprement dit), qu’on remplit ensuite par expérience. La machine apprend en écoutant des milliers de phrases, et garde dans sa banque de données les informations pertinentes à la reconnaissance des mots. Au niveau du sens global de la phrase, même chose : l’IA s’appuie sur des règles grammaticales, mais surtout sur les expressions idiomatiques rencontrées pendant l’apprentissage. Pour ce qui est de l’expression, c’est le même principe : la machine écoute, retient et restitue. Je ne cherche pas à dénigrer la technologie, tout cela est extrêmement complexe, et les applications actuelles ont atteint un niveau de sophistication élevé. Mais la question qui nous préoccupe aujourd’hui, c’est de savoir si on peut parler d’intelligence pour autant.

Les plus extrémistes des transhumanistes prédisent la « singularité », le moment où l’IA deviendra plus intelligente que l’humain et prendra sa place dans l’évolution. Ces savants ayant réalisé la prophétie girardienne du sujet ayant poussé le désir métaphysique dans ses derniers retranchements, le vide ontologique, ils ne sont pas le moins du monde perturbés par l’idée de la disparition de leur espèce. Il n’en va pas de même du quidam ordinaire qui s’effraye de ces prédictions. L’IA inspire la terreur ces jours-ci, et de brillants cerveaux appellent à un sursaut, une prise de conscience du danger avant qu’il ne soit trop tard. Or tout cela est proprement absurde.

Cette question ne peut se traiter sérieusement qu’au niveau philosophique. Le test de Turing, au départ une idée abstraite, est devenu réalité, et il nous faut à présent décider si Turing avait raison en posant l’équivalence entre l’imitation et la conscience. L’argument le plus fort pour réfuter cette hypothèse est celui de la chambre chinoise de Searle. Dans cette expérience de l’esprit, Searle imagine un homme ne parlant pas un mot de chinois, enfermé dans une pièce, et à qui on soumet des phrases en chinois pour traduction en anglais. L’homme dispose de toute une série de règles qu’il applique sans réfléchir aux messages entrants. Quand il a terminé, il soumet le résultat aux expérimentateurs. Pour ceux-ci, le traducteur a une maîtrise parfaite du chinois ; en réalité, il n’en comprend pas un mot.

D’un point de vue évolutionnaire, l’intelligence artificielle est une régression de plusieurs centaines de milliers d’années. Elle ramène l’esprit humain à une machine à imiter, fondamentalement bête à manger du foin. Le fantasme de l’IA sur-intelligente qui nous dépasse et nous élimine tient à un principe abstrait, l’émergence. Selon cette idée, le tout voit émerger des caractéristiques nouvelles inaccessibles à ses parties. Le corps humain, par exemple, est composé de cellules sans intelligence, or il donne naissance à l’esprit. Il suffirait par conséquent de construire un ordinateur qui, bien qu’idiot à l’échelle de ses composants élémentaires, atteindrait un degré de complexité tel qu’il deviendrait conscient. Autant le principe est intéressant, autant il est inapplicable aux IA actuelles. Pour que le principe d’émergence puisse avoir une quelconque valeur pratique, il faudrait connaître les lois fondamentales et l’architecture présidant à l’organisation d’un niveau de complexité donné à partir du niveau précédent ; or non seulement il y a plusieurs niveaux de complexité entre la cellule et l’esprit humain, mais nous sommes très loin de connaître toutes les lois qui lient ces niveaux. Il y a, par exemple, une gigantesque terra incognita entre nos connaissances sur le cerveau humain et notre expérience de la conscience. Les promoteurs de la machine consciente ignorent tout simplement cette contrainte, et se mettent à rêver d’un ordinateur qui deviendrait soudainement conscient, simplement en multipliant les capacités de traitement et de stockage de l’information et la quantité d’informations fournies. Cette idée relève de la pensée magique, pas de la science. Bien sûr, on ne peut pas dire qu’une telle machine est impossible théoriquement ; ce qu’on peut affirmer sans crainte, par contre, c’est qu’elle est inconcevable avec les connaissances actuelles.

Pour autant, est-il justifié d’avoir peur de l’IA ? Notons d’abord que cette peur s’apparente à la terreur qu’inspirait aux peuples archaïques la ressemblance. L’ « intelligence » de l’IA repose essentiellement sur l’imitation, et c’est la ressemblance qui nous fascine bien plus qu’une capacité cognitive évoluée, qui dans les faits n’existe pas. Or Girard nous a appris les dangers de cette indifférenciation, et la peur instinctive qu’elle déclenche en nous.

Il devient urgent de remettre les choses à l’endroit. Les prédictions scientistes des partisans de l’IA sont en grande partie fantasmatiques. L’erreur tragique est de les prendre au sérieux. Une fois de plus, nous évacuons le problème de notre violence en la faisant porter par l’autre, en l’occurrence la machine intelligente, fantasme sans substance, pour ne pas avoir à la contempler là où elle se trouve : en nous. Dans l’état des connaissances et de la technologie, aucune IA ne fera jamais violence de son plein gré, elle le fera sans état d’âme (et pour cause) si nous le lui ordonnons. L’IA, dans sa conception actuelle, n’est pas et ne sera jamais consciente, mais elle est assez sophistiquée pour devenir une extension de notre conscience à nous.

Les gourous transhumanistes sont les nouveaux scientistes. Ils veulent rendre l’humain meilleur en dopant ses capacités intellectuelles, en prolongeant son existence, en le rendant plus rapide, plus fort, plus connecté, voire en le remplaçant au profit d’une intelligence supérieure. Aucun gadget technologique ne rendra jamais l’humain meilleur. Ces enfants sans sagesse n’ont pas encore compris que rendre l’humain meilleur, c’est le rendre moins violent, et que cette gageure est inaccessible à la technique. Le seul accomplissement prévisible de l’humain augmenté, c’est sa capacité de nuisance décuplée s’il décide de mettre ses superpouvoirs au service de la violence. De ce côté-là, les militaires ont bien compris les possibilités qui s’ouvraient à eux.

Les armes futures seront des soldats augmentés et des robots sophistiqués qui décideront mécaniquement de qui peut vivre et qui doit mourir. Dès lors, la question du danger pour l’humanité de l’intelligence artificielle se ramène à la montée aux extrêmes, la vision apocalyptique de René Girard telle qu’il l’expose dans son dernier livre, Achever Clausewitz. Le danger n’a rien à voir avec une hypothétique indépendance des robots, il a tout à voir avec notre tendance à la rivalité violente et avec la spirale infernale d’une violence qui n’est plus retenue par les artifices traditionnels. On peut aussi convoquer ici Jacques Ellul et sa vision de la technique comme un monstre que nous avons créé et dont nous avons perdu le contrôle.

La question de la conscience des machines cache la bonne question, notre volonté et notre capacité à enfin devenir conscients nous-mêmes, c’est-à-dire maîtres de notre destin et de notre histoire. Une IA ne sera jamais ni pire ni meilleure que son maître (ou son programmeur). Il est temps de tuer dans l’œuf le nouveau mythe du « mauvais robot », parce qu’il est plus que temps de nous confronter à la réalité de notre violence et de réaliser que tous nos mythes ne sont que des excuses pour différer cet examen de conscience qui nous terrorise.