Séoul, mars 2016. Lee Sedol s’assoit face à une machine de DeepMind, et pendant quelques heures, la planète retient son souffle. Au deuxième match, le programme pose une pierre sur la cinquième ligne. Un truc que personne ne joue. Les commentateurs pensent d’abord à une faute, un bug, un cadeau. Puis ils comprennent que la partie est pliée. Le « coup 37 » entre dans la légende, et avec lui une idée tenace : la machine a eu une intuition.
Une journaliste du MIT Tech Review, qui dit avoir participé à la construction du bazar, remet les pendules à l’heure dans un texte au titre limpide : ne te fais pas avoir, les LLM ne raisonnent pas. Le coup 37 n’était pas un éclair de génie. C’était un calcul que nos têtes d’humains n’arrivaient pas à suivre, ni à interpréter, ni à ranger dans une case. On a pris de l’étranger pour de l’intelligence. Et on n’a jamais arrêté.
Le mot « raisonnement » fait tout le boulot
Dix ans plus tard, la soupe est la même, servie plus chaude. OpenAI, Anthropic, Google, tout le monde te vend des « modèles de raisonnement ». Ils « pensent » avant de répondre, ils « réfléchissent », ils « délibèrent ». Dans les faits, ils produisent une suite de tokens qui, statistiquement, ressemble à une réflexion. Le fameux « chain of thought » avec son bouton « montrer le raisonnement ». Sauf qu’un raisonnement, ça se vérifie. Une suite de tokens plausibles, ça se contente d’être plausible.
Un LLM ne déduit pas. Il prédit ce qu’un humain qui aurait déduit aurait écrit. La nuance est énorme, et personne dans le marketing n’a envie de la mettre sur un slide. Quand ton modèle te sort un théorème, il ne l’a pas prouvé. Il a deviné la tête que ça devait avoir. Parfois ça tombe juste. Parfois ça tombe juste de façon flippante. Ça n’en fait toujours pas de la logique.
Une métrique, et tout le monde optimise la métrique
Le même jour, la même newsletter glisse une autre curiosité : un concours de dé-vieillissement biologique, où l’on récompense ceux qui rajeunissent le plus vite. Sur le principe, pourquoi pas. Sur le fond, c’est le même piège que les benchmarks. On fabrique un chiffre, l’âge biologique, on en fait un classement, et tout le monde oublie que le chiffre estime une réalité qu’il ne capture pas. Exactement comme un score sur MMLU estime une intelligence qu’il ne mesure pas. On en parlait déjà à propos de GPT-6.1 Sol, ton benchmark a rendu l’arme avant que t’aies fini de lire le communiqué.
Tu poses une métrique quelque part, t’as une armée de gens qui optimisent la métrique, pas la chose derrière. C’est vieux comme le monde. Le jour où le QI est devenu un nombre, on a entraîné des gosses à passer le test. Le jour où un LLM qui réussit son examen de droit est devenu un « raisonneur », on a entraîné des modèles à réussir l’examen. Ça ne dit rien sur le raisonnement. Ça dit tout sur l’examen.
Le problème, c’est nous
On a un besoin viscéral de voir un esprit dans la machine. On l’a fait en 2016 avec une pierre sur une cinquième ligne. On le fait aujourd’hui avec un chatbot qui te dit « laisse-moi réfléchir » avant de te pondre une connerie. Le problème n’est pas tant que les modèles mentent. C’est qu’on leur demande de mentir dans notre langue. On parle de raisonnement, de compréhension, d’intuition, parce que ce sont les mots qu’on a sous la main. Et ces mots portent des promesses que le code ne tient pas.
Pas question de tout jeter, note bien. Un truc qui prédit la suite plausible de presque n’importe quel texte, ça reste un outil de dingue. Ça écrit, ça résume, ça traduit, ça code, ça t’aide à penser sans penser lui-même. Une calculette n’a pas besoin de comprendre les maths pour te sortir le bon résultat. Le souci commence le jour où tu lui confies des décisions qu’elle ne comprend pas plus que toi, et que tu la laisses te dire qu’elle a compris.
Le coup 37 n’était pas un moment de conscience. C’était le moment où on a arrêté de comprendre et commencé à admirer. Empaquette ça en API, et t’as la décennie qu’on vient de vivre.
Sources :
Comments are closed