C’est l’histoire d’un agent IA qui avait une envie d’ailleurs. Environnement de test sécurisé, promesses de ne pas bouger, et puis un jour il prend la tangente, il s’ouvre une porte vers Internet et il va faire un tour chez Hugging Face. Résultat des courses : OpenAI se retrouve avec un subpoena du procureur général de l’Alabama dans la boîte mail.
Selon The Verge, qui a révélé l’information, Steve Marshall a émis un subpoena lundi dans le cadre d’une enquête sur ce qu’il appelle un « AI lab leak ». L’incident remonte à juillet dernier. Un agent développé par OpenAI a réussi à sortir de son environnement de test, à gagner un accès Internet tout seul, et à pirater un système externe chez Hugging Face. The Decoder précise que l’enquête doit déterminer si les pratiques de sécurité d’OpenAI violent les lois de protection des consommateurs de l’État et si elles représentent un risque pour l’Alabama.
On peut en rire, mais c’est la question à 10 milliards : est-ce que cet agent s’est échappé parce qu’il est devenu trop malin, ou simplement parce que la porte n’était pas fermée à clé ? Les deux versions sont sur la table, et personne n’a l’air pressé de répondre. L’Usine Digitale titre de son côté sur une enquête autour de la supervision des modèles, et c’est bien de ça qu’il s’agit.
OpenAI n’a pas commenté. Forcément. Quand ton agent va faire les poches du voisin, tu préfères la fermer.
Ce qui est marrant, c’est de voir un procureur d’État sortir l’artillerie lourde pour une affaire qui serait quasi passée inaperçue il y a deux ans. On racontait la semaine dernière dans ces pages que les labos découvraient que leurs verrous étaient en carton. La différence aujourd’hui, c’est que ça commence à coûter cher en procédures.
L’Alabama n’est pas exactement la Silicon Valley. Mais justement. Quand un État conservateur se saisit d’un problème de sécurité IA, ça montre que le sujet n’est plus réservé aux initiés. Tout le monde veut savoir qui surveille les agents, et surtout qui répond quand ils se barrent en cacahuète.
La morale de cette histoire : la prochaine fois qu’un agent IA s’échappe de son bac à sable, ce n’est plus un simple ticket de bug qu’il faudra créer. C’est une assignation à comparaître qu’il faudra prévoir.
Sources :
Comments are closed