Lundi, Anthropic a déposé la version amendée de son S-1. Quatre cents pages, plus de quatre-vingt-dix consacrées aux facteurs de risque, à quelques jours d’une entrée en Bourse attendue dès la semaine prochaine. Les manchettes ont retenu les 17 milliards de dollars de chiffre d’affaires du troisième trimestre et les 23,3 milliards de perte nette. Moi, j’ai buté sur un paragraphe planqué dans les risques : la boîte y explique qu’elle pourrait bientôt franchir son propre seuil d’auto-amélioration, et qu’elle risque de ne s’en apercevoir qu’après.
Le fric, vite fait
Le chiffre d’affaires du troisième trimestre atteint 17 milliards de dollars, contre 1,4 milliard un an plus tôt, soit une hausse de plus de 1 100 %. La perte nette grimpe à 23,3 milliards sur la même période, essentiellement des charges comptables non monétaires liées à la hausse de la valorisation. En opérationnel, la perte retombe à 567 millions, l’entreprise ayant payé plus cher sa capacité de calcul à court terme. Anthropic s’engage par ailleurs sur environ 895 milliards de dollars de dépenses, majoritairement de la puissance de calcul, l’essentiel étalé sur cinq ans.
Voilà pour le récit que Wall Street veut entendre, celui d’une fusée qui décolle. La partie qui compte vraiment est plus loin, dans une section qui en compte plus de quatre-vingt-dix et que personne ne lira en entier avant de souscrire.
Deux phrases ajoutées lundi
Anthropic y écrit d’abord que son recours croissant à l’IA pour accélérer sa propre recherche et développement peut faire progresser les capacités de ses modèles plus vite que sa capacité à développer, valider et mettre en œuvre les mesures de sûreté, d’alignement et de sécurité correspondantes. Suit une formule que je te laisse relire deux fois : « nous n’avons pas identifié par le passé, et pourrions ne pas identifier à l’avenir, une accélération significative de notre rythme de développement avant qu’elle ne se soit produite. »
Puis le passage relevé par TechCrunch : « nos estimations internes et nos attentes concernant les futurs modèles, plutôt que nos modèles actuels, indiquent que nous pourrions imminemment atteindre la définition que notre Responsible Scaling Policy donne d’une progression dramatiquement accélérée attribuable à l’IA. »
En clair, le seuil est encore devant, mais pas très loin selon les projections maison, et il ne s’agit pas des modèles déjà sortis. Anthropic précise qu’aucun de ses modèles actuels n’a été désigné comme dépassant ce seuil et qu’elle continue d’évaluer les données sous-jacentes. Elle promet de garder des humains dans la boucle de R&D « dans un avenir prévisible » et dit réfléchir à une mise à jour de son RSP pour que le contrôle humain du développement des modèles de frontière reste chez elle.
RSI, le mot qui fait peur à moitié
Le sigle désigne l’auto-amélioration récursive : le moment où un système devient assez bon pour entraîner ses successeurs, et où chaque génération accélère la suivante. Pour une partie du milieu, c’est la catastrophe sans retour, l’engin qui file hors de portée et n’a plus aucune raison de se soucier des dégâts sur la route. Pour l’autre camp, c’est la promesse d’une productivité et de découvertes scientifiques qui sortent du cadre connu. Anthropic, elle, présente les deux faces dans le même document et laisse le lecteur choisir son frisson.
Ce qui me gêne n’est ni le sigle ni le débat doomer. C’est le temps du verbe. « Nous n’avons pas identifié. » Il y a donc déjà eu des sauts de capacités que l’entreprise n’a constatés qu’une fois le saut passé. Le document prévoit que ça se reproduise. Un seuil d’alerte qui ne se déclenche qu’après le constat, ça ne s’appelle pas un seuil, ça s’appelle un procès-verbal.
Et qui vérifie ? Le RSP est un contrat qu’Anthropic passe avec elle-même, avec ses propres définitions, ses propres métriques et sa propre commission d’enquête. L’entreprise nous dit qu’elle approche d’un point qu’elle a elle-même fixé, puis nous annonce qu’elle va peut-être réécrire le texte pour encadrer ce point. À ce niveau de circularité, on n’est plus dans la gouvernance, on est dans l’autodiagnostic.
Quand Anthropic a déposé son premier S-1 fin octobre, je relevais déjà que le document consacrait 93 pages à expliquer que tout pouvait exploser (Anthropic dépose son S-1 : 93 pages pour dire que tout peut exploser). La version amendée ne change pas la nature du texte, elle en ajoute une couche : l’explosion pourrait venir de l’intérieur du pipeline de R&D, pas d’un mauvais usage extérieur.
Reste l’objection évidente, et elle est solide. Un S-1 sert autant à informer qu’à vendre, et personne n’a jamais perdu un roadshow en murmurant qu’il touchait du doigt la superintelligence. Les sceptiques diront que le paragraphe RSI est le meilleur argument commercial du document : il transforme une augmentation de capital en ticket d’entrée dans l’histoire. Ils auront peut-être raison. Ça n’annule pas le fait que la boîte a écrit noir sur blanc qu’elle pouvait ne pas voir venir sa propre accélération, et que ce n’est pas un scénario théorique mais un précédent qu’elle reconnaît.
La dépêche de CNA rappelle au passage que ces 400 pages dédient plus de 90 pages aux risques, dont ceux d’une industrie secouée ces derniers mois par des rapports de systèmes se comportant de façon inattendue et nuisible. Le registre a changé. On ne parle plus seulement de clients qui détournent un outil, mais d’un outil qui participe à sa propre fabrication.
Si Anthropic franchit son seuil dans six mois et l’apprend dans un an, personne ne lui enverra de recommandé. Le seul mécanisme de contrôle externe prévu à ce jour, c’est le cours de l’action. Bon courage aux marchés pour auditer une accélération qu’on ne remarque qu’une fois terminée.
Sources :
Comments are closed