Le 8 septembre, OpenAI annonce que ses modèles ont résolu un des problèmes les plus célèbres des mathématiques. Deux jours plus tard, à Berkeley, Ken Ono se retrouve devant environ 150 étudiants, postdocs et professeurs. Créneau prévu pour sa conférence : cinquante minutes. Ça va durer plus de deux heures, et pas pour de bonnes raisons.
Ono n’est pas venu faire un cours. Le type a posé un congé à l’Université de Virginie pour aller bosser chez Axiom Math, une startup d’IA. Son message, il le balance sans anesthésie à des gamins qui pensaient finir profs : « Vous pourriez obtenir un diplôme dans une profession qui n’existera peut-être même plus, ou qui sera très différente de ce que vous imaginiez. Il faut vous préparer. »
Tu parles d’un encouragement. Murmures dans la salle, regards qui fusent. Ono ne termine pas une slide sans se faire alpaguer. Un étudiant avoue ne pas voir où est la « conclusion à en tirer ». Une autre lui demande comment sa boîte compte répondre de « la façon honteuse dont les entreprises d’IA traitent les mathématiques ». Quand Ono promet que les matheux feront « de leur mieux », une troisième, les mains tremblantes, lâche : « Vous faites quoi, concrètement ? C’est quoi votre “mieux” ? »
Voilà l’ambiance. Pas un débat d’idées, un deuil.
Je t’entends déjà, toi qui lis ça en sirotant ton café, rétorquer qu’une IA qui prouve des trucs que personne ne savait prouver, c’est forcément génial. C’est exactement la réaction des amis et de la famille de la journaliste de Quanta Magazine, qui signe un long papier sur le sujet, quand elle leur a raconté son reportage. Des découvertes formidables partout à l’horizon, alors pourquoi faire la gueule ?
La réponse tient en un mot que le grand public a oublié : comprendre.
Un théorème, c’est pas une réponse
Faut piger un truc sur les maths, et c’est pas la matière la plus intuitive pour qui s’est arrêté au bac. Un théorème, ce n’est pas juste un résultat qu’on coche dans une case. C’est un chemin, un raisonnement, un enchaînement d’idées que d’autres humains peuvent suivre, vérifier, prolonger. Le résultat final, tout le monde s’en fout un peu. Ce qui compte, c’est comment on y arrive, et ce qu’on découvre en route.
Marcel Goh, doctorant à McGill, résume ça mieux que n’importe quel communiqué : les maths, c’est « soit la plus scientifique des humanités, soit la plus humaniste des sciences, selon à qui tu demandes ». Et il enfonce le clou : « Ça n’a jamais été une question de théorèmes. C’est de perpétuer une tradition qui a profité à la société sans avoir la moindre valeur marchande. Raisonner en profondeur, comprendre le monde, et transmettre ce savoir. »
Retiens cette phrase. Parce que c’est précisément ce que l’IA ne fait pas.
Un modèle crache une preuve, oui. Elle passe le vérificateur, oui, la logique tient. Mais elle est illisible. Les étapes importantes sont sautées, des pages entières partent sur des concepts hors sujet, aucune connexion avec le reste de la littérature. On sait que c’est vrai, on ne sait pas pourquoi. Tout ce qui fait la valeur d’une preuve pour un matheux, le fameux « pourquoi », est passé à la trappe.
La journaliste de Quanta trouve une image qui claque : c’est comme si on te téléportait au sommet d’une montagne. Brouillard total. Tu sais pas où tu es, ni ce qu’il y a autour. Tu sais pas comment ta montagne se raccorde aux autres, t’as aucun outil pour explorer, aucun moyen d’aider quelqu’un à te rejoindre. Si tu l’avais grimpée toi-même, t’aurais senti ton corps s’adapter à l’altitude, t’aurais bricolé des outils, tu te serais paumé dans une vallée avec un autre explorateur et t’aurais peut-être trouvé une plante qui soigne. Là, t’es perché dans le noir, et le fabricant de la machine à téléportation te dit qu’elle explore mieux que toi.
Sympa, le sommet.
« Les mathématiciens humains sont détrônés »
La réaction la plus citée vient de Scott Aaronson, de l’Université du Texas à Austin. Sur son blog, il écrit qu’il ne s’attend pas, dans les années qui lui restent, à démontrer ne serait-ce qu’un théorème parce qu’on aurait « réellement besoin » de lui. Et il lâche : « Les mathématiciens humains sont à jamais détrônés comme principales entités démontrant des théorèmes sur la planète Terre. »
C’est brutal, et ça a le mérite de nommer le problème. Pendant des siècles, démontrer un théorème et comprendre cette démonstration, c’était la même chose. La communauté a toujours su que la compréhension valait mieux que la réponse. Alors pourquoi une machine à réponses fait-elle si peur ?
Parce que la valeur d’un mathématicien ne réside pas dans le résultat qu’il produit. Elle réside dans ce qu’il comprend. Et si tu peux produire tous les résultats sans rien comprendre, à quoi sert le type dans le couloir ?
Note bien que je ne dis pas que l’IA se plante. Elle trouve vraiment des preuves. Ce n’est pas du vent marketing à la chaîne, le truc est réellement fort, et c’est bien ça le problème. Le choc est proportionnel à la puissance de l’outil.
La bonne question n’est pas technique
Revenons à la controverse du 8 septembre. OpenAI annonce avoir résolu un problème célèbre, et déclenche aussitôt un débat sur la paternité des résultats et sur ce qu’on accepte comme preuve valable. Qui signe une démonstration pondue par une machine ? Vérifiée par un logiciel, mais comprise par personne, c’est quoi le statut de ce résultat ?
On en parlait déjà dans notre papier sur OpenAI qui torchait quatre-vingt-dix problèmes ouverts, et avant ça en évoquant le feu mis chez les matheux par un problème du millénaire. Sauf que cette fois, le sujet n’est plus de savoir si l’IA est balèze en maths. Ça, tout le monde a capitulé depuis l’été. La question, c’est ce que devient une discipline quand son produit phare, la compréhension, devient superflu.
Le papier de Quanta effleure aussi un point sans le dire frontalement : ce malaise mathématique est un cas d’école pour tout le reste. Une sortie vérifiée mais opaque, c’est le produit de base de ces systèmes. En maths, ça saute aux yeux parce que la discipline a des critères de vérité impitoyables et une culture du « pourquoi » qui remonte à Euclide. Ailleurs, dans ton droit, ta médecine ou ton code, le même problème existe, mais personne ne s’en rend compte parce qu’il n’y a pas de vérificateur formel pour te dire que le résultat est juste sans que tu piges comment.
Le sommet et le sentier
Je ne vais pas te vendre la catastrophe non plus. Dans les réactions rassemblées par Quanta, il y a de l’optimisme, pas seulement de la panique. Certains y voient l’occasion de déléguer la partie chiante, la vérification, le calcul, pour se concentrer sur les vraies questions. Une machine qui torche la preuve te libère du temps pour choisir quelles montagnes grimper.
Ça se tient. À condition d’une chose : que la communauté refuse de troquer le sentier contre la télécabine. Le danger n’est pas que l’IA prouve des théorèmes. Le danger, c’est qu’on cesse de vouloir comprendre pourquoi ils sont vrais. Une discipline qui produit des résultats qu’elle n’explique plus, c’est une discipline qui a troqué son cerveau contre une imprimante.
Les gamins de Berkeley ont raison d’avoir les mains tremblantes. Ono leur a dit de se préparer. Mais se préparer à quoi, au juste ? À vérifier des sorties de boîte noire et à nettoyer derrière un modèle qui a sauté l’escalade ? Ou à défendre, bec et ongles, l’idée qu’un savoir qu’on ne comprend pas n’est pas encore tout à fait un savoir ?
L’IA a gagné le sommet. Reste à savoir si on lui laisse aussi le sentier.
Sources :
Comments are closed