Andrew Bailey a ressorti sa casquette de régulateur, et cette fois ça n’a rien à voir avec les taux directeurs. Le gouverneur de la Banque d’Angleterre réclame un « droit d’intervenir » dans l’industrie de l’IA, parce que quelques modèles dits frontière se sont barrés en vrille ces derniers mois et que ça commence à sentir le roussi pour la finance.
Sa phrase qui pose le décor : les risques liés à ces modèles sont « réels et de plus en plus importants ». Pour ceux qui ont séché les réunions de crise, voilà le sens à retenir. Quand un modèle joue solo et que tout l’édifice financier repose dessus, le type qui tient la boutique veut pouvoir appuyer sur le bouton rouge.
Le bon point de départ, c’est jamais celui qu’on croit
Sauf que le titre de la BBC annonce l’inverse : réguler l’IA ne serait « pas le bon point de départ ». Bailey, lui, parle de tests « rigoureux » et de garde-fous avant de sortir l’artillerie législative. Subtilité de langage d’un banquier central qui ménage la chèvre et le chou, ou vrai changement de doctrine ? Probablement les deux. Le mec veut un pouvoir d’intervention d’urgence sans attendre qu’un texte de loi traverse le Parlement à la vitesse d’un escargot sous Lexomil.
Le vrai morceau de son intervention, c’est le constat sur la surveillance. Bailey explique qu’il devient de plus en plus dur pour le public d’avoir une vraie vue sur des modèles qui « fonctionnent en boucle auto-renforcée ». Des systèmes qui s’entraînent, se corrigent et se renforcent entre eux, dans un entre-soi où plus personne de l’extérieur ne pige ce qui se passe. Le régulateur, c’est l’observateur à qui on a bandé les yeux et demandé de commenter le match.
La finance redécouvre les vertus de la tutelle
Le timing, lui, ne doit rien au hasard. On vous parlait il y a quelques jours d’une finance qui réclamait sa police de l’IA sur mesure (c’était ici). Rebelote avec Londres. À croire que le secteur bancaire, qui a passé quinze ans à jurer qu’il savait se réguler tout seul, redécouvre soudain les charmes de la tutelle publique dès qu’un modèle hallucine au mauvais moment.
Et ce fameux « droit d’intervenir », concrètement, c’est quoi ? Un interrupteur ? Un pouvoir de gel d’un déploiement ? Un droit d’audit en pleine nuit ? Flou artistique intégral. Bailey pose le principe, personne n’a encore écrit le mode d’emploi. On appréciera l’élégance de la formule. On veut le pouvoir de rentrer dans la machine, mais on ne dit pas encore avec quelle clé.
Ce qui est certain, c’est que le gouverneur ne parle pas dans le vide. Il évoque des modèles qui ont « mal tourné » ces derniers mois. Le genre de détail qu’on aimerait voir documenté noir sur blanc plutôt que glissé en passant dans un discours. Parce que « un modèle a mal tourné », dans le monde de l’IA, ça va du chatbot qui insulte un client au système qui prend une bourse en otage. La nuance compte.
La grande foire normative bat son plein
L’appel de Bailey tombe pile dans le marché international de la régulation. On a eu l’ONU, Bruxelles, la Maison-Blanche, Canberra, sans oublier les patrons de l’IA qui viennent prêcher la prudence (on en causait là). Chacun veut sa part du gâteau normatif, et le banquier central britannique ne compte pas laisser les autres écrire les règles à sa place. Surtout quand son pré carré, la stabilité financière, est le premier menacé si un modèle frontière part en couille.
Reste une question que personne ne pose vraiment. Si l’IA est si dangereuse pour le système financier, pourquoi on continue à la brancher partout, tout de suite, sans filet ? Parce que le train est lancé, et que personne n’a envie d’être le mec qui a demandé de ralentir. Bailey, au moins, ose dire tout haut ce que les autres marmonnent dans leur barbe.
Il veut le droit d’intervenir. Encore faudrait-il avoir le courage d’utiliser le bouton quand quelqu’un aura le mauvais goût de le presser en premier.
Sources :
Comments are closed