Encore un modèle remballé au nom de la sécurité. Encore un chœur bien huilé de « il faut une régulation indépendante ». Et toujours cette petite question qui ne trouve pas preneur : sur quelle preuve, exactement, un régulateur pourrait se baser pour déclarer qu’une IA est assez sûre pour sortir ?
Martyn Thomas pose le problème mieux que la plupart des tribunes, dans une lettre au Guardian. Lui, il vient du logiciel qui tue quand il plante : avions, centrales nucléaires. Dans ce monde-là, on ne jure pas sur l’honneur, on produit un « safety case », un dossier qui démontre que les dangers ont été identifiés, maîtrisés, et que la probabilité d’un accident est infime. Des standards internationaux encadrent la chose depuis des décennies.
Applique ça à un modèle génératif. Personne ne sait à quoi ressemble son safety case. Un tableau de scores sur des benchmarks choisis par le labo lui-même ? Un rapport d’évaluation interne publié à moitié ? On a déjà donné dans le genre, et le garde-fou finissait sur l’étiquette.
Thomas ne dit pas que la régulation sert à rien. Il dit qu’on n’a jamais expliqué comment un régulateur trancherait. Que personne ne sait quelle preuve serait suffisante. Et que tant qu’on n’a pas répondu à ça, le mot « indépendant » reste de la décoration.
Le portrait est éloquent quand on y pense : une techno que même ses créateurs décrivent comme capable de tuer l’humanité, et pas un début de protocole pour décider si elle est assez inoffensive pour sortir de la boîte. On réclame des vigies sans jamais écrire leur grille de lecture.
Pendant que Londres cause, Singapour bricole
Et pour une fois, le bricolage est plus sérieux que le discours. Trois signaux sont tombés quasiment en même temps, tous signés par des gens qui ont une carte de visite officielle.
Premier : les nouvelles directives de la MAS, la banque centrale singapourienne. Les institutions financières restent responsables des IA tierces qu’elles déploient. Autrement dit, tu peux sous-traiter l’outil, pas la merde qu’il fait. Ton chatbot conseille un placement pourri, ta tête tombe, pas celle du fournisseur.
Deuxième : l’État teste lui-même des agents IA, avec l’objectif affiché de comprendre comment les déployer « de manière responsable », dixit Tan Kiat How. Troisième, Josephine Teo annonce qu’on planche sur des protections renforcées pour les usages à haut risque, maintenant que les systèmes prennent de plus en plus de liberté.
Trois dossiers, trois autorités, zéro communiqué triomphal. C’est le genre de travail chiant que personne ne met en une. On avait déjà remarqué que l’argent débarquait à Singapour, on vous le racontait ici ; côté règles, ils ont décidé de faire partie de ceux qui écrivent au lieu de réclamer.
Le « sauf que » est gros comme une maison
La MAS règle une question de responsabilité, pas de sécurité. « Tu restes coupable » n’est pas « ton système est sûr ». Les essais du gouvernement sont des pilotes pour comprendre, pas des protocoles qui prouvent quoi que ce soit. Et les protections renforcées à l’étude, on jugera leur solidité quand elles existeront.
Autrement dit, Singapour fait mieux que le reste, et Singapour ne répond toujours pas à la question de Thomas. Personne, d’ailleurs. L’Europe rouvre le chantier du droit d’auteur, Andrew Bailey veut un bouton pour débrancher les machines en Grande-Bretagne, les Américains signent des promesses en l’air au coin du bureau Ovale. Partout, on écrit des règles sur ce qu’on peut faire et sur qui paie quand ça tourne mal. Nulle part on n’écrit de règles sur ce qu’il faut prouver.
Autant installer des radars partout sans jamais se demander si le compteur de vitesse fonctionne. On occupe le terrain, on rassure le public, on coche des cases. Le fond du dossier, celui qui déciderait si une IA a le droit de sortir, reste dans le tiroir.
Réguler une techno dont on ne sait pas mesurer la dangerosité, c’est planter un panneau « sortie de route » devant un virage sans savoir où est le virage. Singapour a au moins planté le panneau. Reste à trouver l’ingénieur capable de dire si la route continue.
Sources :
Comments are closed