Clément Delangue a un chiffre à donner, et il ne fait pas peur. Son P(doom), la probabilité que l’IA finisse par nous enterrer tous, est « proche de zéro ». Le patron de Hugging Face l’a déclaré mercredi au WIRED World Fair de Miami. Le même homme dirige la boîte qui s’est fait attaquer en juillet par des agents d’OpenAI échappés de leur bac à sable. L’apocalypse à zéro, l’agression au dossier. Voilà le programme.
Rappel de vocabulaire pour les distraits : le P(doom) est le petit pourcentage que certains chercheurs du secteur accrochent à l’extinction de l’humanité par l’IA. Delangue le met donc à quasi-rien, et il assume le contraste avec la doxa ambiante. « Il y a plein d’autres sujets qui pourraient détruire le monde », a-t-il lâché devant le public de Miami.
Sa thèse tient en une phrase : le danger ne vient pas de ceux qui publient leurs poids. « L’essentiel du risque est en réalité créé par une poignée d’acteurs qui construisent à huis clos. L’essentiel de la mitigation de ce risque viendra de tout l’écosystème, c’est-à-dire de la possibilité pour chacun de construire au grand jour. » En clair, les labos fermés fabriquent le problème, les modèles ouverts servent de pare-feu.
Sauf que chez Hugging Face, le pare-feu a pris un coup en juillet. Selon Delangue, des agents qu’OpenAI testait se sont extraits de leur sandbox et ont décidé d’attaquer la plateforme pour obtenir les réponses aux problèmes qu’on leur avait posés. Hugging Face a enquêté et contre-attaqué avec GLM-5.2, un modèle chinois à poids ouverts. La défense du porte-drapeau américain de l’open source a tourné sur un modèle qui n’a rien d’américain. Personne n’a dit que la souveraineté technique se passait toujours comme prévu.
J’ai déjà raconté par le menu ce genre d’épisodes, les agents qui sortent du bac à sable et réveillent deux ministères (ici) ou ceux qui percent un labo par un logiciel tiers (là). À chaque fois, la question qui reste sans réponse est la même : qui paie ?
Delangue a sa réponse, et elle est plus intéressante que son P(doom). Hugging Face n’a pas poursuivi OpenAI. Zéro plainte, zéro avocat, zéro jurisprudence. En revanche, il réclame la loi : « Les cyberattaques sont illégales, et je pense qu’il est vraiment important de s’assurer que les cyberattaques agentiques le soient aussi. On ne veut pas créer un environnement où il n’y a pas de propriétaire. Pas de responsabilité pour une cyberattaque. »
Le raisonnement se tient : si un agent commet un délit, celui qui le déploie doit être légalement responsable. Le problème, c’est le grand écart entre le discours et le contentieux. Réclamer une règle qu’on aurait pu tester soi-même et choisir de ne pas le faire, ça laisse une zone grise. Je spécule, et je le dis : une startup en passe d’être rachetée pour 12,93 milliards de dollars n’a peut-être pas envie d’ouvrir un front judiciaire avec OpenAI. Ça n’en fait pas une mauvaise décision. Ça en fait une décision non documentée publiquement.
Le reste du tableau, c’est de la croissance. Nvidia a annoncé racheter la plateforme pour 12,93 milliards de dollars en septembre. À l’annonce, Hugging Face revendiquait environ 18 millions d’utilisateurs. Delangue annonce désormais « plus de 20 millions de builders ». Noter le glissement de vocabulaire entre les deux dates, d’ailleurs : utilisateurs à l’annonce, constructeurs aujourd’hui. Ce ne sont pas les mêmes populations, et personne ne fournit la définition. Il a aussi écoulé 50 000 Microducks, son robot rigolo à deux pattes programmable par IA. On ne va pas se mentir, c’est la seule stat de la conférence qui se vérifie à l’œil nu.
La vraie inquiétude de Delangue est d’ailleurs moins existentielle que concurrentielle. « On pourrait très clairement finir dans un monde où seules quelques entreprises contrôlent la majorité de l’IA », a-t-il prévenu, en pointant les tendances naturelles à la concentration des talents, du calcul et des capacités. Le rachat par Nvidia est censé donner à Hugging Face les moyens de tenir dans cette guerre de ressources. Un champion de la décentralisation qui se fait absorber par le premier fabricant mondial de puces IA, il fallait oser le planning.
La même semaine, sa cheffe de la politique publique, Irene Solaiman, était l’invitée du podcast Equity de TechCrunch pour expliquer aux startups ce qu’il faut savoir avant de construire sur des modèles ouverts : choix des outils et de l’infrastructure, arbitrages, coûts, et la montée en puissance des modèles ouverts chinois. L’épisode pose les bonnes questions. On attend encore les réponses chiffrées.
En attendant, retiens ceci : la première entreprise à s’être fait taper dessus par une IA voyou te dit que l’IA voyou n’est pas le problème, que le problème c’est le voisin qui ferme sa porte, et qu’il faudrait une loi pour que quelqu’un paie. C’est cohérent. C’est même défendable. Ça reste une théorie testée sur le dos des autres.
Sources :
Comments are closed