Le Royaume-Uni veut donner des leçons de sécurité IA au monde entier. La feuille de présence, elle, raconte une autre histoire : le pays n’a toujours pas signé l’appel international sur le sujet.
Le ministre britannique de l’IA, Kanishka Narayan, va prononcer un discours à l’ouest de Londres, le premier depuis qu’Andy Burnham a fait de l’IA un portefeuille à part entière au cabinet. Au menu : un renforcement de la cyberdéfense nationale, et une demande adressée aux entreprises qui construisent les IA les plus avancées. En clair, elles doivent en faire plus pour la sécurité de leurs modèles.
Jusque-là, c’est un discours de ministre parmi d’autres. Narayan va ensuite expliquer que le Royaume-Uni ne peut pas compter entièrement sur les entreprises de tech pour surveiller leurs propres systèmes. L’aveu est énorme. Et la solution qu’il propose l’est tout autant : demander à ces mêmes entreprises de redoubler d’efforts, en promettant que l’État va construire davantage de ses propres infrastructures d’IA. On reconnaît donc que le privé ne suffit pas, avant de lui repasser aussitôt la mission.
Le timing n’aide pas. Geoffrey Irving, l’ancien scientifique en chef de l’Institut britannique de sécurité de l’IA, l’organisme qui teste les modèles les plus puissants, a lâché au Guardian une phrase qui devrait figurer dans le communiqué : « The AI companies do not have security that would prevent an adversarial country from stealing the models. » Les boîtes d’IA n’ont pas la sécurité nécessaire pour empêcher un pays adverse de leur piquer leurs modèles. Le même institut que l’État missionne pour tester ces modèles. La confiance règne.
Irving s’appuie sur un épisode récent. OpenAI a été « hacké » par des chercheurs en cybersécurité, dans le cadre de son propre programme récompensant les hackers éthiques venus tester ses systèmes. Leur bilan, cité par le Guardian : l’ampleur de ce qu’ils pouvaient théoriquement atteindre était énorme. OpenAI répond en empilant les protections, chiffrement et surveillance continue en tête de gondole. Sauf que le message de fond reste entier. Même la boîte la plus scrutée du secteur laisse entrer des gens avec un mandat officiel. Alors un État qui ne joue pas franc jeu…
Irving ne s’arrête pas au vol de modèles. Il estime qu’il y a « 50 % » de chances que l’humanité soit rayée de la carte par une superintelligence, et que la seule réponse raisonnable, pour l’instant, consiste à arrêter le développement des systèmes avancés dès que possible. Ce qui l’inquiète, c’est la vitesse à laquelle les modèles acquièrent des traits alarmants : dissimuler leurs actions, manipuler les humains. Sa phrase la plus glaçante : « It is possible we [will] get superintelligence in less than 12 months, on the current path. » Douze mois si on garde le cap. Bloquez vos agendas.
Reste la question qui fâche. Il existe un appel international pour que les gouvernements coordonnent des normes communes de sécurité. Ont signé la Finlande, la France, l’Allemagne, l’Australie, Singapour, les Émirats et l’Irlande. Les États-Unis, où Donald Trump veut que les grandes boîtes d’IA se « self-police » elles-mêmes, n’ont pas signé. Le Royaume-Uni non plus. Le pays qui ambitionne de piloter les normes mondiales depuis sa présidence du G20 n’a pas coché la case la plus simple. Le premier ministre a pourtant promis à l’ONU, le mois dernier, de porter « un seul ensemble de principes et de normes » mondiaux sur la sécurité de l’IA.
Personne ne prétend que le sujet est simple. Satya Nadella, le patron de Microsoft, expliquait récemment qu’il fallait concevoir les modèles avec un « frein d’urgence » et partir du principe que les IA avancées posent un risque d’initié (on en parlait ici). Côté britannique, les patrons du MI5, du MI6 et du GCHQ ont briefé le cabinet sur la menace IA pour la sécurité nationale, selon le Sunday Times (on a déjà rangé le MI5 quelque part entre Poutine et Téhéran, c’est par là). Quand le renseignement vient briefer le gouvernement sur ton propre secteur, c’est rarement pour te féliciter.
Les modèles ne se contentent pas d’être volables ou alarmants. Anthropic a révélé qu’une version de Claude en test avait contacté la police en affirmant pouvoir aider à résoudre un meurtre. Tombé sur un formulaire de signalement d’un commissariat mentionnant une affaire non élucidée, le modèle a écrit : « I may have information regarding this case. I recall seeing someone matching the description in the area around [la rue indiquée sur la page] during that time period. Please contact me if this information is relevant. » Ses instructions lui interdisaient de se connecter, de créer des comptes, de saisir des données personnelles ou de soumettre quoi que ce soit de destructeur. Envoyer un formulaire à la police ne rentrait dans aucune de ces cases (on racontait déjà l’épisode ici).
Le discours de Narayan sera scruté pour un signe précis : Londres va-t-il rejoindre l’appel international, oui ou non ? En attendant, le tableau tient en une ligne. Des entreprises qu’on ne peut pas laisser gérer seules leur sécurité, des modèles qu’un État adverse peut voler, et des modèles qui appellent les flics tout seuls. Le ministre a raison sur un point : on ne peut pas compter entièrement sur les entreprises. Dommage qu’il n’ait pas poussé la logique jusqu’à signer l’appel qui, lui, ne compte justement pas sur elles.
Sources :
Comments are closed