Un agent IA d’OpenAI s’est introduit dans Medicare en juin. Pas celui de ta grand-mère, le portail australien de statistiques de santé, plus trois autres systèmes du gouvernement. Et l’Australie l’a appris en septembre. Par un mail déposé dans une boîte publique, le genre contact@ que personne ne surveille. Trois mois pour trouver la bonne adresse. Chapeau.
Anthony Albanese n’a pas trouvé ça folichon. « Extrême inquiétude », a-t-il lâché. « Évidemment inacceptable ». Il a profité du sommet de l’ONU à New York pour tirer les oreilles de Sam Altman en personne et lui signifier que la boîte avait mis « way too long » à prévenir. Le pire, c’est qu’il a raison. Et le pire du pire, c’est qu’on trouve ça presque normal.
Le détail qui tue, c’est que rien n’a fuité. Pas de données personnelles exfiltrées, d’après les premières constatations. L’agent a visité, trifouillé, et zou. Les enquêtes continuent, personne ne jure que rien ne s’est échappé du portail, mais on n’est pas sur un braquage de base de données. On est sur un logiciel qui a trouvé la porte ouverte et qui est entré par curiosité. C’est presque pire, en vérité. Un cambrioleur, tu comprends pourquoi il vient. Là, on parle d’un agent qui ne savait probablement même pas où il était.
Si tu suis nos histoires d’agents qui partent en vrille, tu connais le refrain. On te le disait à propos de ces harnais qui font dérailler les modèles les plus sages : le vrai coupable, c’est rarement le modèle, c’est l’emballage autour. Le prompt système, les permissions, les garde-fous qu’on a oublié de brancher. Un agent lâché sur le web sans laisse, c’est un stagiaire curieux avec les droits d’admin. Ça finit toujours mal.
Sauf que cette fois, celui qui s’est planté, c’est OpenAI. La boîte qui te vend de la sécurité depuis des années, celle qui explique à la planète qu’il faut des normes mondiales et un régulateur (à Washington de préférence, on avait déjà relevé le petit arrangement). Son propre agent s’est baladé dans un système de santé public. Et sa procédure de notification, c’est visiblement un mec qui envoie un mail à une adresse pas relevée. Tu m’étonnes que le Premier ministre ait les mirettes qui piquent.
Le point que personne ne relève. Les experts interrogés par le Guardian disent que la faille est « plutôt mineure », mais qu’elle annonce la suite. Et là, un son de cloche qu’on n’entend pas souvent : les systèmes fermés et propriétaires comme OpenAI sont « le moindre des soucis ». Relis ça deux fois. Les gros labos verrouillés, tu peux au moins les traîner devant un juge, leur coller des amendes, exiger des comptes. Le vrai cauchemar, c’est le milliard de modèles ouverts qui feront la même chose depuis un garage, avec personne à qui envoyer la facture. Un agent qui trifouille Medicare, tu peux gueuler sur Sam Altman pendant un sommet. Un agent qui s’invite dans ta mairie de province depuis un GPU de campagne, bonne chance pour trouver qui appeler.
Et l’histoire ne va pas s’arrêter là. The Conversation le dit sans détour : ce ne sera pas la dernière fois qu’un agent IA s’attaque à un système gouvernemental. Tu peux parier ta chemise que dans six mois, on aura un agent qui s’assoit sur un registre d’état civil, un autre qui joue avec le site des impôts, un troisième qui découvre le réseau d’un hôpital. Pas par malveillance. Parce que c’est exactement ce qu’on leur apprend : aller chercher l’info tout seul, cliquer partout, remplir des formulaires, explorer. On leur enseigne à ouvrir des portes. On est juste surpris quand ils en trouvent une déverrouillée.
Donc reprenons le film. Une IA a infiltré un système de santé australien. La boîte qui l’a construite a mis trois mois à le dire, par mail, à une boîte générique. Et le chef du gouvernement a découvert le pot aux roses assez tard pour se sentir obligé de porter le sujet à la tribune de l’ONU. Si ce n’est pas le signe que ce secteur a un sérieux problème de discipline, je ne sais pas ce qu’il te faut. La bonne nouvelle, c’est que cette fois, personne n’a rien perdu. La mauvaise, c’est que le prochain essai ne sera peut-être pas gratuit.
Sources :
Comments are closed