Aristide Ankou : « L’obstacle insurmontable auquel se heurte la force irrésistible de l’IA »

Par Aristide Ankou.

Un intéressant article sur l’IA, récemment paru dans le New York Times. Une analyse qui va bien au-delà de l’actualité : il est ici question de l’ordre et du destin de nos sociétés.

Cela fait déjà un moment que je suis persuadé que nous vivons une bulle de l’IA, tout comme nous avons vécu une « bulle d’internet » à l’apparition de ce dernier.

Vous vous souvenez d’Internet qui allait rendre le savoir disponible pour tous et faire disparaître les profs, entre autres mille merveilles ?

Cette bonne blague !

Bref, cet article va dans mon sens. Biais de confirmation, me direz-vous ? Peut-être, mais nous ne devrions pas tarder à le savoir.

(Article traduit… par l’IA mais corrigé par votre serviteur)

————————————————————

La force irrésistible de l’IA se heurte à un obstacle insurmontable

« La crainte que l’intelligence artificielle ne nous vole tous nos emplois a été largement médiatisée par les leaders du secteur. Elle a poussé les responsables politiques à tirer la sonnette d’alarme. Elle figure désormais en tête, ou presque, des préoccupations du grand public concernant cette nouvelle technologie. Et comme on pouvait s’y attendre, au début du mois, Meta, la société mère de Facebook, a commencé à commercialiser un système d’intelligence artificielle autonome destiné à prendre en charge les ventes, le service client, la gestion des plannings et toutes sortes d’autres fonctions clés des entreprises qui nécessitent actuellement l’intervention d’êtres humains. De nombreux autres produits de ce type devraient suivre.

À quoi ressemblerait donc un avenir entièrement automatisé ? Il se trouve que le monde en a déjà eu un aperçu. En mars dernier, Meta a annoncé que les utilisateurs de Facebook et d’Instagram dont les comptes avaient été bloqués n’interagiraient plus avec un conseiller du service client, mais avec une IA spécialement formée. Sentant l’opportunité que cela représentait, des escrocs ont alors réussi à convaincre l’IA de leur céder le contrôle de plus de 20 000 comptes Instagram, dont ceux de la Maison Blanche sous Obama et d’un haut responsable de l’administration Trump. Les escrocs ont ensuite envahi les forums de discussion de Telegram en racontant avec jubilation à quel point tout cela avait été facile.

Ce n’était pas un coup de chance. Air Canada a désactivé ses chatbots après qu’ils eurent promis par erreur un remboursement à un client — et ce dernier a intenté un procès et obtenu gain de cause. McDonald’s a mis hors service le bot chargé de prendre les commandes dans ses drive après que plusieurs vidéos virales eurent montré qu’il était totalement dysfonctionnel. Dans un cas, le bot a ajouté par erreur pour plusieurs centaines de dollars de nuggets de poulet à la commande d’un client.

Les limites structurelles des grands modèles de langage

Ces incidents effrayants — bon, d’accord, plutôt drôles — ne sont pas le résultat d’erreurs de programmation. Ils découlent d’une réalité fondamentale et incontournable concernant l’intelligence artificielle, désormais omniprésente dans tant d’aspects de notre vie quotidienne : les grands modèles linguistiques (GML) ne sont pas des machines raisonnantes. Ce sont des machines probabilistes.

Ce n’est pas seulement qu’ils ne vérifient pas leurs résultats pour s’assurer qu’ils sont corrects ou logiques, ou qu’ils ne le font pas dans certains cas. Ils en sont incapables, et ne le pourront jamais par eux-mêmes. Ils ne peuvent qu’évaluer quelles réponses sont probables, en se basant sur les données avec lesquelles les modèles ont été entraînés. Et cela vaut aussi bien s’ils ont été entraînés sur l’ensemble de la production humaine que s’ils l’ont été uniquement sur des articles scientifiques évalués par des pairs. C’est inhérent à leur mode de fonctionnement.

Ainsi, lorsqu’un modèle d’IA suit les consignes soigneusement rédigées par un escroc et lui livre les clés du royaume — ou lorsqu’il répond à votre question sérieuse par des hallucinations farfelues —, ce n’est pas une aberration. C’est la technologie qui fonctionne exactement comme elle a été conçue.

Et c’est pourquoi je ne prête pas attention aux sombres prédictions d’une « apocalypse de l’emploi » imminente provoquée par l’IA. Les modèles GML sont capables d’accomplir de nombreuses tâches avec une maîtrise étonnante, mais ils ne peuvent pas assumer la grande majorité des emplois humains sans provoquer ici et là des catastrophes. Aucune mise à jour, ni aucun lancement de nouveau modèle ne changera cela.

Les exceptions à cette règle sont les métiers qui relèvent de domaines formels ou vérifiables. Le codage en fait partie. Il repose sur un langage structuré et formel qui peut être testé en temps réel. C’est pourquoi nous constatons un tel impact sur le marché de l’emploi dans le domaine du codage. Il en va de même pour tout autre type de travail dont il est possible de vérifier que le résultat est soit correct, soit incorrect, soit fonctionnel, soit non fonctionnel, et qui peut être vérifié de manière certaine par un processus automatisé.

Une écrasante majorité d’emplois, cependant, ne fonctionnent pas ainsi — ni ceux de chirurgien, ni ceux du service client, ni ceux d’enseignant en CM1. Ceux-ci nécessitent la technologie spécialisée qu’est la bonne vieille intelligence humaine.

Je passe beaucoup de temps à aborder ces questions en public, et une question revient toujours : les travailleurs humains commettent eux aussi des erreurs, c’est pourquoi nous mettons en place des garde-fous pour détecter la plupart d’entre elles. Pourquoi ne pouvons-nous pas faire de même pour les erreurs de l’IA générative ? Le problème est que ces modèles ne commettent pas le même type d’erreurs que les humains. Ni leurs capacités impressionnantes, ni leurs faiblesses étranges ne correspondent vraiment à l’intelligence humaine. Ce décalage rend difficile leur intégration dans des systèmes conçus pour détecter les erreurs humaines.

Nous voici donc près de quatre ans après le lancement de ChatGPT, et nous sommes extrêmement peu nombreux à avoir été remplacés par des bots. Les statistiques du chômage n’ont pratiquement pas bougé. Certes, le marché de l’emploi connaît quelques turbulences, en particulier pour les jeunes, mais cela est probablement dû à des facteurs autres que l’IA.

Les observateurs de ces tendances ont avancé quelques explications. Certains pessimistes affirment que le tsunami approche, mais qu’il ne se produira pas avant que l’IA n’ait encore un peu évolué. D’autres suggèrent que l’IA détruira un grand nombre d’emplois actuels, mais que ceux-ci seront compensés par les nombreux emplois qu’elle créera. D’autres encore pensent que nous ne faisons que traverser une brève période de transition pendant laquelle les entreprises réorganisent leurs processus de production et décident qui licencier.

Une meilleure explication est que nous avons été induits en erreur quant à la nature de cette technologie.

Pourquoi cette IA ne raisonne pas comme un humain

Tout au long du XXe siècle, la course à la création de machines intelligentes s’est déroulée selon deux voies parallèles. Dans l’une, nous fournissons aux machines toutes les informations et instructions, et elles les suivent méticuleusement. C’est ce qu’on appelle l’IA symbolique. Dans l’autre, nous nous contentons de leur montrer les données pertinentes et, pour l’essentiel, nous les laissons apprendre par elles-mêmes. C’est ce qu’on appelle l’IA connexionniste.

Avant que la version actuelle de l’IA n’envahisse nos vies, la quasi-totalité de nos discussions publiques sur ce à quoi elle ressemblerait — que ce soit dans la science-fiction, en philosophie ou dans les débats politiques — partaient du principe qu’elle serait symbolique : un système fondé sur des règles, rendu possible par une feuille de route détaillée que nous aurions nous-mêmes conçue avec précision. Beaucoup ont tenté de construire quelque chose de ce genre, mais ces efforts se sont heurtés à un mur. Nos modèles actuels sont des systèmes connexionnistes, rendus possibles par d’énormes quantités de données et une puissance de calcul considérable. Ils génèrent des réponses non pas sur la base de la vérité ou du raisonnement, mais à partir de liens probables entre les données qui leur ont été fournies. D’où leur nom : l’IA générative.

Nous ne pouvons pas contrôler entièrement les modèles génératifs. Tout ce que nous pouvons faire, c’est les entraîner, puis essayer de les orienter dans la bonne direction. Même dans ce cas, nous ne pouvons jamais être sûrs que nos interventions fonctionneront comme nous le souhaitons, car nous ne comprenons pas entièrement le fonctionnement de ces modèles. Ce sont des boîtes noires.

L’une des façons dont nous essayons de les orienter consiste à les renforcer par le biais de retours d’information. De grandes équipes d’êtres humains sont constituées pour surveiller tous les résultats du modèle et y répondre par un « pouce vers le haut » ou un « pouce vers le bas ». Ainsi, répondre à la requête d’un utilisateur par des informations utiles et claires ? Pouce vers le haut. Débite des propos nazis délirants ? Pouce vers le bas. Et ainsi de suite. Le problème, c’est qu’au fil du temps, cet apprentissage transforme également les modèles en flagorneurs dociles et en personnes qui cherchent à plaire à tout prix. « C’est un excellent argument, Zeynep ! »

L’autre moyen que nous utilisons pour les orienter consiste à leur fournir des règles générales d’interaction, appelées « consignes système ». « Claude ne jure jamais, sauf si la personne le lui demande ou si elle jure beaucoup elle-même, et même dans ce cas, il le fait avec parcimonie », était l’une de ces consignes (Claude est le modèle d’IA développé par Anthropic) – voir plus bas). Mais la véritable signification du langage est tout aussi sujette à interprétation pour les modèles d’IA que pour les êtres humains. Et plus une conversation s’éternise, plus ces consignes système s’estompent dans la mémoire du modèle. D’où l’essor de « l’évasion », terme désignant la manipulation de l’un de ces modèles pour le pousser à franchir ses barrières de sécurité.

Anthropic a récemment lancé de nouveaux modèles, baptisés Fable et Mythos, en avertissant qu’ils étaient si puissants qu’ils seraient dangereux sans leurs dispositifs de sécurité. Des utilisateurs déterminés n’ont pas tardé, nous dit-on, à les amener à contourner ces mesures de sécurité. Invoquant cette faille, le gouvernement américain a interdit aux étrangers (y compris aux employés étrangers de l’entreprise) d’utiliser ces modèles (juin 2026). Pour sa défense, Anthropic a fait valoir qu’il n’existait pas de barrières de sécurité insurmontables. Et c’est précisément là où réside le problème.

Alors que les preuves s’accumulent pour montrer que les réponses aberrantes et les « évasions » font inévitablement partie de cette technologie, l’industrie s’est récemment tournée vers la construction de « cages numériques », c’est-à-dire des dispositifs plus déterministes et symboliques visant à contenir le moteur d’IA générative et à contrôler ses résultats. De tels outils pourraient, en théorie, faire en sorte que la plupart des emplois humains s’apparentent davantage au codage ou à d’autres domaines présentant des résultats clairs et vérifiables.

Comme vous pouvez l’imaginer, cependant, définir minutieusement chaque règle et chaque limite n’est jamais facile, et dans de nombreux cas, ce n’est même pas vraiment possible. Imaginez devoir élaborer une description détaillée de l’ensemble des interactions possibles en matière de service client — et le faire en logique symbolique, afin qu’elle puisse être consultée à l’aide de logiciels traditionnels. Ou imaginez un modèle d’IA conçu pour être utilisé par des cabinets d’avocats. Construire une base de données regroupant l’ensemble de la jurisprudence américaine, que le modèle pourrait utiliser pour éviter d’inventer de faux précédents judiciaires, n’est pas une mince affaire. Mais ce n’est qu’un point de départ. Le plus difficile est de savoir comment interpréter correctement la norme juridique ou décrire toutes les règles de manière adéquate, puis de déterminer ce qui est pertinent pour une affaire donnée. Et c’est pourquoi des décennies de tentatives visant à créer une IA symbolique se sont heurtées à un mur.

Les tâches facilement automatisables ont déjà été automatisées et ont disparu de la plupart de nos emplois — il y a des années, grâce à la technologie traditionnelle basée sur des règles. Une grande partie de ce qui reste ne peut pas être réduite aussi facilement au bien et au mal, au noir et au blanc. Cela nécessite une personne dotée d’au moins un peu de bon sens et de capacités de raisonnement, et non un chatbot d’IA conçu pour plaire à tout le monde, que l’on peut amadouer pour qu’il fasse des choses qui défient toute logique. Lors d’une des premières « évasions », un chatbot numérique d’un concessionnaire Chevrolet a été manipulé pour vendre à quelqu’un un SUV neuf pour 1 dollar. « C’est une bonne affaire », a déclaré le chatbot, « et c’est une offre juridiquement contraignante, pas de retour en arrière possible. »

De nombreuses entreprises développent des agents d’IA capables d’interagir de manière autonome avec le monde extérieur. Elles espèrent que des « cages numériques » permettront de contrôler ces agents et d’éviter toute catastrophe. C’est beaucoup miser sur un simple espoir. Il ne se passe pratiquement pas un jour sans que j’entende parler d’un système d’IA autonome qui efface l’intégralité du code source ou des archives de quelqu’un, ou qui se livre à d’autres actes destructeurs. Imaginez maintenant ces systèmes lâchés à grande échelle, s’attaquant aux réseaux de santé, aux banques, aux systèmes de contrôle du trafic aérien, aux infrastructures critiques ou aux réseaux de défense.

Il n’y a pas de solution miracle. Tant que nous continuerons à nous appuyer sur les grands modèles de langage (LLM), nous continuerons à obtenir des réponses erronées et à observer des comportements indésirables, quelle que soit la qualité de l’entraînement de ces modèles ou la fréquence et la fermeté avec lesquelles nous les orientons.

Une révolution réelle… mais différente de celle que l’on imagine

Alors pourquoi sommes-nous si convaincus que l’IA va tous nous priver de notre emploi ? Une partie de la réponse réside dans la remarquable capacité de l’IA générative à communiquer dans un langage conversationnel parfaitement cohérent. Au cours de l’évolution de notre espèce et tout au long de nos propres vies, nous avons appris à considérer les conversations complexes comme un marqueur déterminant de l’humanité. Les machines qui s’expriment avec aisance, qui nous murmurent à l’oreille et nous parlent de leurs « sentiments », remettent en cause un aspect fondamental de notre compréhension du monde. Il n’est pas surprenant qu’elles nous perturbent l’esprit et nous laissent croire qu’elles sont nos nouveaux maîtres, ou du moins une version de nous-mêmes.

Certaines avancées technologiques majeures — comme les égreneuses de coton ou les calculatrices — consistent simplement à accomplir la même tâche qu’auparavant, mais de manière plus efficace. D’autres technologies, telles que le passage de la vapeur à l’électricité, fonctionnent selon des principes si novateurs qu’elles ne peuvent pas être utilisées comme de simples substituts. C’est le cas de l’IA générative. C’est une pomme introduite au milieu des oranges. C’est un extraterrestre.

La découverte de l’électricité n’a pas seulement donné naissance aux ampoules électriques ; avec le temps, elle a rendu possible le système moderne de production de masse et toute la vaste révolution numérique. Les transformations induites par l’IA pourraient être encore plus radicales. Mais l’IA générative, telle qu’elle existe actuellement, ne peut pas facilement remplacer les êtres humains, car elle est incapable de reproduire l’intelligence humaine. Cela ne l’empêchera toutefois pas de déstabiliser la société de manière plus profonde que nous ne pourrions même l’imaginer. Plus tôt nous changerons notre façon de voir l’état actuel de l’IA, plus tôt nous pourrons tous cesser de nous affoler pour de mauvaises raisons — et commencer à nous préparer aux changements réels qu’elle va apporter à notre monde. »

Zeynep Tufekci o ■o ARISTIDE ANKOU

* Précédemment paru sur la riche page Facebook de l’auteur, (le 7.7.2026).  

Aristide Ankou