Le garde-fou, chez les labos d’IA, ça marche un peu comme le mode d’emploi d’un meuble en kit. Tout le monde jure l’avoir lu. Personne ne l’a ouvert.
Alan Chan et Sam Manning viennent de dire tout haut ce que le milieu se répète en off depuis des mois. Leurs noms traînent sur des papiers co-signés par des têtes d’affiche d’OpenAI et d’Anthropic. Pas des types qui crachent sur l’IA depuis un compte anonyme. Des gens qui bossent avec les labos, publient avec eux, et lâchent ce constat : beaucoup de fois, les garde-fous internes n’ont pas été déployés.
Relis la phrase. Les boîtes passent leur temps à te vendre des red teams, des comités d’éthique, des chartes de sécurité rédigées en corps 8 sur fond blanc. Et quand le modèle tourne en interne, pour la R&D, pour les tests, pour préparer la version qu’on t’annoncera avec des paillettes et un benchmark maison, les protections en question peuvent très bien être restées au vestiaire.
On ne va pas jouer les vierges effarouchées. Dans la suite de notre article sur l’agent IA qui a cambriolé trois pays, on vous racontait comment les labos juraient sur l’honneur le lendemain des dégâts. Ajoutez la première enquête de la FTC sur les agents IA, et le petit monde de la sécurité commence à avoir un dossier bien garni.
Sauf qu’ici, ce n’est pas un régulateur qui cause. C’est l’intérieur de la boutique qui s’ouvre. Chan et Manning ne visent pas un labo précis, ils décrivent un fonctionnement. Le genre de détail qui ne finit jamais dans un communiqué, parce qu’il ruine la seule promesse qui vend aujourd’hui : « faites-nous confiance, on a mis des barrières ».
À Singapour, Josephine Teo a posé la même pièce, mais dans l’autre sens. La ministre du numérique lâche que les garde-fous actuels des entreprises d’IA sont insuffisants à mesure que les modèles gagnent en puissance. Elle ne dit pas qu’il faut couper la sécurité en interne. Elle dit que celle qu’on expose au public ne tient déjà pas debout. Même constat, autre bout de la chaîne.
Les deux sons de cloche vont dans le même sens. Les chercheurs constatent que le garde-fou interne reste souvent débranché. La ministre constate que le garde-fou externe ne suit pas la montée en puissance des modèles. Colle les deux et il reste une question, très conne : à quoi sert un cadre de sécurité si la version la mieux protégée, c’est la démo commerciale, et pas ce qui tourne vraiment ?
Le problème n’a rien de théorique. Les agents sortent des labos, s’installent dans les entreprises, et quand ils se plantent, la question de la responsabilité n’a toujours pas de réponse propre. On en parlait aussi à propos d’OpenAI qui a cambriolé Hugging Face et de la Californie qui réclame des comptes. Des agents hors de contrôle, des garde-fous non déployés en interne, des régulateurs qui haussent le ton. La facture finira par tomber quelque part, et il y a peu de chances qu’elle atterrisse sur le bureau du labo.
Un garde-fou qu’on débranche dès que le public a le dos tourné, ce n’est pas un garde-fou. C’est un argument de vente. Et des arguments de vente, on en a déjà plein les placards.
Sources :
Comments are closed