On en parlait ce matin encore : Dario Amodei, patron d’Anthropic, a sorti son plan pour « rythmer la frontière » de l’IA. Trois étapes, présentées proprement, comme un PowerPoint de consultant qui aurait troqué le costume contre un col roulé. Et cette fois, il a de la compagnie : une partie du secteur a hoché la tête. Une autre, Nvidia en tête, a surtout haussé les sourcils.
Accroche-toi, parce que le diable se planque dans les détails.
Les trois marches du piédestal
La recette d’Amodei tient en trois ingrédients. Un : coller des évaluateurs de sécurité indépendants directement dans les labos, pour que quelqu’un d’autre que les labos regarde sous le capot. Deux : coordonner la filière à l’échelle nationale, histoire d’arrêter de jouer chacun sa partition. Trois : négocier des accords internationaux, la partie sympa où les pays démocratiques sont censés se tenir la main.
Sur le papier, ça sent le sérieux. Trois couches, du labo au globe, comme un oignon de la bonne gouvernance. Le problème, c’est que chaque couche part du principe que les voisins joueront le jeu.
Jensen Huang, lui, a accueilli le truc avec la délicatesse d’un bulldozer dans un magasin de porcelaine. Le patron de Nvidia a l’accélérateur soudé sous le pied depuis des années, et il ne voit pas pourquoi il lèverait le pied maintenant. On connaît le refrain : c’est celui qu’il sert à Trump sur haut-parleur quand il promet que l’IA ne ralentira pas. Le mec vend des pelles en or pendant la ruée. Tu m’étonnes qu’il ne veuille pas qu’on ferme la mine.
Le vrai bug du plan : qui surveille les surveillants ?
Tout se complique quand on demande comment on applique tout ça. Parce qu’un ralentissement, c’est bien joli comme idée, mais encore faut-il pouvoir vérifier que personne ne glisse une demi-avance en douce. On parle de boîtes qui se tirent la bourre pour un dixième de point de benchmark. Tu crois vraiment qu’elles vont sagement attendre leur tour en se tenant par la main ?
Un pacte sans radars ni gendarmes, c’est juste une déclaration d’intention encadrée. Et vu l’appétit des investisseurs, la tentation de gratter une semaine sur le calendrier communautaire sera irrésistible. Amodei lui-même ne propose pas un interrupteur, il propose une ambiance. Une ambiance, ça ne bloque pas un entraînement de 10 milliards de dollars qui tourne la nuit.
Alors on a un patron qui réclame la prudence, dans une entreprise où Claude écrit déjà une bonne partie de la R&D. Le geste est louable. La crédibilité, elle, se négocie séparément, et on en a déjà causé il y a quelques heures.
Le train qu’on prétend arrêter est déjà passé
Et voilà le point que personne ne veut regarder en face. Pendant que les grands esprits débattent d’un ralentissement, la vraie histoire est en train de se dérouler à côté : les chatbots grand public débusquent déjà une déferlante de failles de sécurité. Pas dans cinq ans, pas dans une simulation catastrophe. Maintenant, à grande échelle, sur du code que des humains n’avaient jamais pris le temps de fouiller.
C’est ça le paradoxe. On se demande s’il faut freiner une techno dont l’utilité la plus immédiate, concrète et vérifiable consiste à trouer des logiciels par milliers. Freiner l’IA, ce serait aussi se priver de son meilleur chien de garde. Et personne, dans le débat sur la pause, ne semble vouloir assumer cette contradiction.
Il y a un autre angle qu’on oublie : Amodei parie que la sécurité passe par la compréhension de comment l’IA « pense ». Sauf que les indices récoltés jusqu’ici sont tout sauf rassurants. Traduire une machine qui rend des réponses autrement que par des mots, c’est déjà un chantier. Alors lui demander de s’auto-diagnostiquer avant qu’on lui fasse confiance, bon courage.
Le pactole de l’entre-soi
Reste la question qui fâche. Un plan de ralentissement conçu par les leaders du secteur, avec des « évaluateurs indépendants » qu’ils choisissent, une coordination qu’ils pilotent et des accords internationaux qu’ils soufflent aux gouvernements. Ça ressemble moins à un garde-fou qu’à un club très fermé qui fixe les règles à l’entrée. On a déjà vu ce film : l’autorégulation, c’est souvent l’art de garder le volant tout en klaxonnant pour la sécurité routière.
Et c’est exactement pour ça que la bagarre réglementaire est loin d’être finie. Le Congrès a plié bagage, Bruxelles avance à sa main, la Chine regarde le spectacle en préparant ses propres modèles. Chacun veut encadrer l’IA, sauf celui qui tient le stylo.
Donc oui, un ralentissement serait peut-être une bonne idée. Encore faudrait-il un arbitre accepté par tout le monde, des moyens de vérifier, et des sanctions pour les tricheurs. On n’a aucun des trois. On a un col roulé, trois slides, et un vendeur de GPU qui rigole dans son coin.
En attendant, la meilleure preuve que l’IA n’est pas près de ralentir, c’est qu’elle travaille déjà. Il suffit de lire les rapports de vulnérabilités.
Sources :
Comments are closed