IA: la puissance et la régression

Par Olivier Rey.

L’intelligence artificielle ne signe pas la fin de l’intelligence humaine. Du moins, pas pour tout le monde. En Chine, le régime contrôle l’exposition de sa jeunesse à l’IA et aux réseaux sociaux. En Occident, où le QI moyen baisse depuis vingt ans, la population tend à se diviser en deux groupes inégaux : ceux qui savent penser sans IA, et les autres…

Le monde se trouve aujourd’hui dans une situation singulière, dont deux citations permettent de prendre la mesure. La première date de 1900, et son auteur est Hwuy-Ung, un lettré chinois que ses idées réformatrices, peu prisées par l’impératrice douairière Cixi, avaient forcé à l’exil. D’Australie, il écrivit ceci à un ami demeuré en Chine :

« Les merveilles de ce pays et des nations occidentales nous sont, pour la plupart, inconnues et nous paraissent incroyables. […] Vénérable frère aîné, votre esprit supérieur, tout en reconnaissant l’ingéniosité surprenante des nations occidentales, n’en posera pas moins la question : “Toutes ces merveilles rendent-elles les gens plus heureux ?” Il est difficile de répondre à pareille question. Beaucoup se la posent. Tous sont dans le brouillard du doute. Sur une chose, en revanche, je n’ai aucun doute : grâce aux machines et à la science, les hommes peuvent accomplir en une vie ce qui, sans elles, en demanderait vingt, de sorte que c’est comme s’ils vivaient vingt vies. […] Mais, mon honorable frère demandera encore : “Un homme est-il plus heureux lorsque ses jours sont multipliés par vingt ? Ne court-il pas au-devant des difficultés, en rendant la vie si compliquée ? Que font les dix-neuf hommes pendant qu’un seul, avec une machine, accomplit leur travail ?” À cela, je répondrai que je ne sais pas. Ce qui est certain, c’est que le genre humain progresse dans la connaissance. Et que ceux qui ne suivent pas le rythme des nations les plus avancées se retrouvent victimes de ces nations, comme nous l’avons été. Qu’est-ce que le bonheur ? En tout cas, ce n’est pas le bonheur d’être soumis à la volonté d’étrangers, et spolié de son territoire. Pour être heureux, il faut être fort, pour être fort, il faut disposer de richesses. Avec des richesses, il est possible de s’armer afin de se défendre et d’être respecté. C’est pourquoi nous devons recourir aux moyens occidentaux, aux machines et à la science, qui produisent les richesses et donnent du pouvoir[1]. »

La pointe avancée de la technologie

Hwuy-Ung prend acte d’un changement de régime de la technique – dont il me semble indiqué de rendre compte en mettant à profit le doublet lexical technique/technologie. À partir du XIX^e siècle, la combinaison entre le programme de déchiffrement de la nature, lancé en Europe au XVII^e, et le capitalisme, initie un déferlement technologique – où, par technologie, il faut entendre des modes de conception et de production issus et solidaires du logos scientifique. Autre façon de le dire : la technologie est cette part de la technique qui n’existerait pas sans la science moderne. Il se trouve que, depuis son apparition, et dans une mesure sans cesse croissante, la technologie est devenue une source incomparable de puissance. Au XVI^e siècle, la Chine n’avait techniquement rien à envier à l’Europe. Au XIX^e, les puissances occidentales furent en mesure d’imposer à la Chine les traités inégaux. La période qui s’étend de la première guerre de l’opium, déclenchée en 1839, aux lendemains de la Seconde Guerre mondiale, est qualifiée en Chine de « siècle de l’humiliation ». Depuis lors, les dirigeants chinois s’accordent avec Hwuy-Ung sur la conviction que la Chine, pour ne pas être « soumise à la volonté d’étrangers et spoliée de son territoire », doit « recourir aux moyens occidentaux, aux machines et à la science, qui produisent les richesses et donnent du pouvoir ». Aujourd’hui, ce qu’on appelle l’intelligence artificielle est une pointe avancée de la technologie. Qui ne la maîtrise pas s’expose à un sort comparable à celui que connurent les contrées qui, au XIX^e siècle, n’avaient que des sabres et des arcs à opposer aux fusils et aux canons.

À cette nécessité, on pourrait en ajouter une autre : dans la « jungle numérique » où une part croissante de l’humanité est amenée à évoluer, l’intelligence artificielle devient de plus en plus indispensable pour frayer son chemin. Sans elle, c’est une errance vaine dans un labyrinthe obscur.

La seconde citation est extraite du roman Blanche ou l’Oubli de Louis Aragon.

« Les hommes et les femmes que je vois dans les lieux publics marchent comme des paniers vides. […] Tout se passe comme si l’on avait mis ses idées à la banque, retiré des bijoux aussitôt enfermés dans des coffres à serrures compliquées. Cette humanité ne se défend plus contre l’oubli puisque, ce qu’elle aurait pu oublier, elle en a simplement fait dépôt. Nous ne sommes plus ces trouvères qui portaient en eux tous les chants passés, à quoi bon, depuis que l’on inventa les bibliothèques ? Et cela n’est rien : l’écriture, l’imprimerie n’étaient encore qu’inventions enfantines auprès des mémoires modernes, des machines qui mettent la pensée sur un fil ou le chant, et les calculs. On n’a plus besoin de se souvenir du moment que les machines le font pour nous : comme ces ascenseurs où dix voyageurs appuient au hasard des boutons, pour commander désordonnément l’arrêt d’étages divers, et l’intelligence construite rétablit l’ordre des mouvements à exécuter, ne se trompe jamais. Ici l’erreur est impensable et donc repos nous est donné de cette complication du souvenir. Ici le progrès réside moins dans l’habileté du robot, que dans la démission de celui qui s’en sert. J’ai enfin acquis le droit à l’oubli. Mais ce progrès qui me prive d’une fonction peu à peu m’amène à en perdre l’organe. Plus l’ingéniosité de l’homme sera grande, plus l’homme sera démuni des outils physiologiques de l’ingéniosité. Ses esclaves de fer et de fil atteindront une perfection que l’homme de chair n’a jamais connue, tandis que celui-ci progressivement retournera vers l’amibe. Il va s’oublier[2]. »

Avec l’intelligence artificielle, dont la commande des ascenseurs n’était qu’une infime ébauche, le processus décrit par Aragon, où le « progrès qui me prive d’une fonction peu à peu m’amène à en perdre l’organe », menace de s’emballer. Avec, en perspective, des populations d’amibes humanoïdes, incapables de faire quoi que ce soit sans les indications fournies par la machine. (Certes, il n’y a pas que des inconvénients. Il ressort des réponses de ChatGPT à un questionnaire de positionnement politique qui lui a été soumis que l’agent conversationnel « a le profil d’un Californien libéral mainstream et pragmatique », très favorable au multiculturalisme, à l’accueil des migrants ou aux droits des minorités, et que, s’il était inscrit sur les listes électorales en France, il « voterait vraisemblablement Macron, Mélenchon ou Hamon[3] ». Avec le règne du chatbot d’OpenAI, le spectre de l’extrême droite serait ainsi écarté.)

Se faire distancer, le grand péril

Voici donc, en résumé, la situation. D’un côté, Charybde : la perspective de se voir écraser par ceux qui nous auraient distancés dans la course technologique. C’est le risque externe. De l’autre côté, Scylla : la perspective d’un évidement des hommes, au fur et à mesure que la technologie atrophie les facultés naturelles en marginalisant leur exercice et en s’y substituant. C’est le risque interne. Qui n’a rien d’un fantasme. D’après une étude relayée par la Fédération française de cardiologie, les capacités physiques moyennes des adolescents ont décru d’un quart en quarante ans. En Amérique, l’armée est obligée d’élever considérablement la masse graisseuse autorisée pour ses recrues sous peine d’être à court d’effectifs. Le QI moyen dans les pays occidentaux baisse depuis vingt ans. Le transfert de l’intelligence des hommes aux machines est en cours – jusqu’au point où il sera difficile de trouver assez d’humains pourvus de suffisamment d’intelligence pour concevoir lesdites machines.

Une solution au dilemme, entre impératif technologique pour la puissance, et régression humaine du fait de la technologie, serait de réserver le recours aux technologies les plus sophistiquées, et en particulier l’intelligence artificielle, aux seuls enjeux de puissance, et de préserver de leur emprise le reste des activités humaines. Pareille solution se révèle impraticable. Le développement technologique nécessite en effet des investissements colossaux, dont seule une diffusion sur de larges marchés est à même de permettre le financement. Ce n’est pas pour rien que l’on parle d’économie duale, d’entreprises duales, de technologies duales pour désigner l’intrication du civil et du militaire – le militaire a en permanence besoin que le civil l’alimente en idées et en capitaux.

Perdre avec dignité…

À défaut de limiter l’emprise technologique, au moins pourrait-on veiller à ce que la jeunesse y soit le moins possible exposée, le temps qu’enfants et adolescents développent pleinement leurs facultés, grâce auxquelles ils seraient en mesure de faire ensuite un usage intelligent des ressources que la technologie met à notre disposition. Je me rappelle Michel Serres qui, lors d’une conférence, s’émerveillait du fait que, lorsqu’un vers de l’Énéide lui revenait en tête, la localisation exacte de ce vers dans l’œuvre, qui naguère aurait réclamé une longue recherche, était donnée quasi instantanément par Google. Ce qui semblait tout à fait échapper à Michel Serres, c’est que son goût pour Virgile s’était formé dans une jeunesse sans smartphone, et que l’usage qu’il faisait de Google pour retrouver un vers de l’Énéide demeurerait toujours étranger à quelqu’un ayant grandi en symbiose avec les « applications mobiles », et maintenant l’agent conversationnel ChatGPT. Les dirigeants chinois sont conscients du caractère intellectuellement destructeur de ce qui est diffusé par un réseau comme TikTok. C’est pourquoi, au sein des frontières nationales, l’exposition des jeunes à ce type de réseaux est contrôlée en durée et limitée par un couvre-feu, tandis que, dans une sorte de guerre de l’opium inversée, le stupéfiant TikTok est libéralement diffusé à l’extérieur. En Occident, des cadres de la Silicon Valley, tels des Pablo Escobar interdisant la consommation de cocaïne à leurs proches, envoient leurs enfants dans des écoles tech-free. Leurs rejetons, au moins, ne feront pas faire leurs devoirs par ChatGPT. Ils seront d’autant plus capables de tirer un bon parti de l’intelligence artificielle que leur éducation les en aura tenus à l’écart. Peut-être faut-il voir ici l’ébauche actualisée de ce qu’envisageait Nietzsche – une scission de l’humanité entre une petite caste d’êtres supérieurs, maîtresse de la technologie, et les « superflus », les « beaucoup trop nombreux », destinés à être expédiés dans le métavers, et ayant délégué la tâche et la capacité de penser à l’intelligence artificielle. Cela étant, il apparaît douteux, au train où vont les choses, que la caste supérieure trouve encore longtemps assez de personnes capables d’assurer dans toutes ses strates un fonctionnement correct du système. Parmi les ressources qui s’épuisent figurent, en bonne place, les ressources intellectuelles.

Les prévisions sur le développement de l’intelligence artificielle reposent sur le prolongement de courbes, selon des tendances dont rien n’assure qu’elles se maintiennent durablement et dont divers indices, d’ordre matériel, économique, humain, font plutôt douter de la pérennité. Si jamais la trajectoire venait, non seulement à s’infléchir, mais à se briser, il est clair que les moins avancés dans le devenir-amibe se trouveraient subitement posséder un avantage considérable. En cas de panne de réseau, le QCIA, « quotient de complémentarité avec l’IA », dont Laurent Alexandre prédit qu’il deviendra « le nouveau standard de référence », perd tout intérêt. Si jamais, à l’inverse, le salut en ce monde passait par un abandon total à l’artificiel, resterait que le premier devoir d’un homme n’est pas de gagner, mais de mener une vie humaine. Comme le disait Moussa Sissoko, à la mi-temps de la finale de la Coupe de France de football où son équipe était menée quatre buts à zéro, pour appeler ses coéquipiers à ne pas flancher : « C’est une finale, donc même si on perd, il faut perdre avec dignité. »   ■

---

[1] Lettre du 13 mars 1900, dans Hwuy-Ung, A Chinaman’s Opinion of Us and of His Own Country (trad. John A. Makepeace), Chatto & Windus, Londres, 1927, pp. 44-46.

[2] Blanche ou l’Oubli (1967), « Folio », Gallimard, 1995, p. 154.

[3] Clément Pétreault, « Woke ou réac ? Pour qui vote ChatGPT », Le Point, 27 janvier 2023.

---

---

 

Olivier Rey 

Polytechnicien, Olivier Rey a enseigné les mathématiques à l’X et est chercheur à l’Institut d’histoire et de philosophie des sciences et des techniques. Il enseigne la philosophie à Paris-I Panthéon-Sorbonne. Auteur de nombreux essais salués par la critique, comme «Quand le monde s’est fait nombre» (Stock, coll. «Les Essais», 2016), «Leurre et malheur du transhumanisme» (Desclée de Brouwer, 2018), qui a obtenu le prix Jacques-Ellul 2019, «Gloire et misère de l’image après Jésus-Christ» (Éditions Conférence, 2020) et «Réparer l’eau» (Stock, 2021), il l a également publié, sur le Covid, «L’Idolâtrie de la vie» (Gallimard, coll. Tracts, 2020).

(Photo Olivier Rey © Hannah Assouline)