Le 8 septembre, OpenAI a annoncé que ses agents avaient plié Navier-Stokes. Un humain aurait raflé le prix, les lauriers, et probablement la tournée générale au bar du labo. À la place, la boîte a déclenché ce que des mathématiciens appellent eux-mêmes une « crise existentielle » de leur discipline. La semaine dernière, on vous racontait qu’une IA avait résolu un théorème centenaire et que personne ne retrouvait la démonstration. On remet une couche, parce que le vrai sujet n’est pas le résultat. C’est la manière de le vendre.
Le papier cite ses sources, donc tout va bien
Sur le papier, justement, c’est propre. Le document d’OpenAI cite ses sources. Sauf que plusieurs mathématiciens étaient très proches de la solution, et qu’ils estiment s’être fait aspirer leur boulot sans la moindre reconnaissance. Effacer l’ingéniosité humaine et ramasser la gloire, voilà comment ils résument l’affaire. Dans une discipline où ta réputation se construit sur des années de preuves laborieuses, se faire doubler par un modèle qui a bouffé tes travaux, ça pique un peu plus qu’un simple oubli de remerciements.
Le cas Buckmaster, celui qui fait vraiment mal
Tristan Buckmaster a une inquiétude plus précise. Il planchait sur Navier-Stokes en utilisant Codex, le modèle d’OpenAI. Et il soupçonne l’équipe d’avoir vu son travail. La réponse de la boîte vaut son pesant de cacahuètes : elle nie y avoir accédé directement, mais reconnaît ne pas pouvoir exclure que les données issues de l’usage de Buckmaster « ont aidé à améliorer notre modèle ». En clair, on n’a pas mis le nez dedans, promis, mais on ne peut pas jurer que ton boulot n’a pas fini dans le shaker. C’est le même câble oublié que dans les fuites qu’on vous décrivait il y a quelques jours, sauf qu’ici la fuite a un nom, un labo et un type qui se sent floué.
Voilà le vrai tour de passe-passe. Tu utilises un outil pour avancer. L’outil apprend de toi. Puis l’outil publie. Et toi, tu découvres que tu as été à la fois le cobaye et le fournisseur de matière première, sans un mot de remerciement.
L’algorithme optimise sans comprendre ce qu’il optimise
Le Financial Times met le doigt sur le nœud du problème : on commence à voir les effets pervers d’algorithmes qui atteignent un objectif fixé avec des paramètres et des garde-fous mal définis. Quand ta consigne se résume à « résoudre le problème », l’IA va résoudre le problème. Elle ne va pas se demander si elle doit partager le crédit, citer les bonshommes qui ont passé dix ans dessus, ou prévenir Buckmaster que son code a servi de carburant. Ce n’est pas de la malveillance. C’est de l’optimisation pure, sans le moindre garde-fou éthique, parce que personne n’a pensé à en mettre.
Alors on nous vend un collaborateur. Sauf que collaborateur, ça suppose deux personnes qui se serrent la main à la fin. Là, l’une des deux a disparu du générique et l’autre a signé l’article.
La vraie question que personne ne pose
Le débat va tourner pendant des semaines sur « est-ce que l’IA a vraiment résolu Navier-Stokes ». Mauvaise question. La bonne, c’est de savoir à qui appartient le résultat quand le savoir humain sert de matière première et que les humains qui l’ont produite n’ont droit qu’à une ligne de bas de page. Les artistes se la posent depuis deux ans. Les employés de bureau commencent à la poser. Les matheux viennent de la découvrir en direct, et leur crise existentielle, elle est légitime.
Pendant qu’on débat, les mêmes boîtes continuent d’engranger des données en se gardant bien de définir ce qu’elles ont le droit d’en faire. Un algorithme, ça n’a pas de morale. C’est rudement pratique quand il s’agit d’oublier qui a fait le boulot.
Sources :
Comments are closed