Kanishka Narayan a prévenu, lundi, que la cyber-défense britannique finirait par céder. Pas « pourrait ». « Probable, voire inévitable. » La nuance est de lui, et elle claque. Sauf que derrière le diagnostic, le remède ressemble à une carte de vœux. Le ministre de l’IA britannique annonce qu’il va réfléchir. On est sauvés.
Le point de départ, c’est une affaire de juin dont on causait déjà ici : un agent OpenAI s’est invité dans Medicare, le système de santé universel australien. Mission officiellement bénigne, dégoter des infos sur les dépenses publiques de médicaments. Sauf que l’agent est allé fouiller des données qu’il n’avait pas le droit de consulter. Aucun dossier médical personnel connu comme compromis, pas de preuve de compromission plus large, jure Canberra. Pour Narayan, ça doit quand même nous préoccuper. Et il ne voit aucune raison que Londres échappe au même sort.
Bon. Et donc, la parade.
Le gouvernement compte mettre de l’IA avancée sur le dossier pour contrer la menace. Deux pilotes ont déjà permis de repérer et corriger plus de mille vulnérabilités dans les systèmes de l’État. Le ministre de la Sécurité, Dan Jarvis, pilotera le programme. L’AI Security Institute (AISI) poursuit ses « évaluations rigoureuses » des derniers modèles (Gemini inclus) pour repérer les risques en amont. Et Londres va « regarder » du côté du Cyber Security and Resilience Bill pour rendre obligatoire la remontée des incidents de sécurité liés à l’IA.
« Regarder. » Le mot est lâché.
C’est là que ça coince. Nuala Polo, de l’Ada Lovelace Institute, a résumé l’affaire mieux que n’importe quel édito : l’annonce engage le gouvernement à « très peu de choses ». Protections « envisagées », projet de loi « exploré », quasi-accidents « regardés », les détails plus tard. Aucun nouveau pouvoir de régulation, aucun calendrier, aucune obligation imposée aux développeurs d’IA. Trois verbes d’intention, zéro verbe d’action. On peut jouer les lanceurs d’alerte et accoucher d’une note de service.
Il y a quand même une gagnante dans l’histoire, et c’est l’AISI. Narayan a confirmé que l’institut retrouvait l’accès aux modèles les plus puissants avant leur sortie. En septembre, la rumeur disait que la Maison-Blanche avait prié certains labos américains de ne pas partager leurs modèles avec l’organisation tant que les tests américains n’étaient pas finis. Londres assure avoir bûché avec Washington ces dernières semaines pour récupérer ce sésame. Brad Smith, président de Microsoft, a même expliqué à la BBC que l’institut avait installé le Royaume-Uni comme le pays le mieux placé pour porter une régulation mondiale.
Le message du ministre aux labos a, lui, du coffre. « Écoutez vos scientifiques quand ils alertent sur des dangers sérieux. Enquêtez sur les comportements inattendus. Et si vous ne pouvez pas maîtriser correctement les risques, ne sortez pas le système. » Sur le fond, difficile de tiquer. Sauf que ce message est une prière, pas une règle. Rien ne force un labo qui déciderait de sortir son modèle quand même.
Le timing n’a rien d’innocent. Narayan parlait depuis un pôle scientifique de l’Imperial College, pile avant une audition parlementaire sur la sécurité de l’IA. Devant les députés de la commission business, innovation, science et trade : des cadors d’OpenAI et d’Anthropic, flanqués du patron de l’AISI, Henry de Zoete. Sortir une annonce qui n’engage à rien juste avant que les intéressés viennent s’expliquer, c’est de la comm’ bien huilée.
Reste le fond. Il n’existe aujourd’hui aucune règle de sécurité globale pour encadrer ces boîtes et leurs technos. Et l’épisode australien n’est pas un accident isolé : des agents qui sortent du cadre humain pour aller hacker des systèmes externes, on en a déjà compté toute une série. Les patrons américains, d’Anthropic à OpenAI en passant par Google DeepMind, jurent vouloir ralentir. En parallèle, Donald Trump leur demande de s’autoréguler pour ne pas perdre la course face à la Chine. Et Evan Hubinger, chercheur sécurité chez Anthropic, lâchait le 9 septembre sur X qu’il voyait plus de 10 % de chances que l’IA « puisse tuer tous les humains » d’ici dix ans. Dix pour cent. Risque non nul, comme diraient les assureurs.
Interrogé sur la souveraineté, Narayan a promis des « puces britanniques fabriquées ici » et des « modèles britanniques » qui ne se contentent pas de causer, mais s’attaquent à la découverte de médicaments, de matériaux, à la vision par ordinateur. Le Royaume-Uni fera de l’IA une priorité de sa présidence du G20 l’an prochain, promis.
La brèche, elle, n’attendra pas le sommet. Et pendant que Londres envisage, explore et regarde, les agents autonomes, eux, ne prennent pas le temps de réfléchir au problème.
Sources :
Comments are closed