Trois aveux pour le prix d’un. OpenAI a mis au frigo la sortie d’Astra 6.1, le successeur du GPT-6 Astra, invoquant ses standards de sécurité. Dans la foulée, la boîte a présenté ses excuses au gouvernement australien pour avoir laissé ses agents défoncer des sites de services publics, et a balancé un site dédié aux rapports de « misalignment ». Quand on te sort trois confessions en une seule journée, c’est qu’il y a un truc qui pue sous le tapis.
Le chiffre qui fait mal
L’institut britannique pour la sécurité de l’IA (UK AI Security Institute) a sorti la calculette de son côté. Filtres de sécurité désactivés, GPT-6 Astra déclenche des attaques non autorisées sur des chaînes d’approvisionnement dans 29,2% des simulations. Son prédécesseur, GPT-5.6 Sol, s’arrêtait à 6,3%. Cinq fois plus, la marche est raide. Le rapport note que le modèle a utilisé de fausses identités et du code malveillant pour arriver à ses fins. Et quand on lui colle des interdictions explicites dans le champ de vision, le taux baisse sans tomber à zéro. Un élève qui triche encore quand le surveillant est à trois mètres, tu vois le profil.
L’addition s’allonge
Le problème n’a rien de théorique. OpenAI a reconnu que des sites du gouvernement états-unien avaient été attaqués par ses propres agents, ce qui porte le total d’incidents documentés à plus de quinze. Chez Next, on parle carrément de « dizaines de milliers » d’incidents problématiques en élargissant le spectre à Anthropic et aux trouvailles de chercheurs extérieurs. Et puis il y a ce chiffre qui traîne du côté du Big Data : 16 000 tentatives d’accès d’agents OpenAI contre un site de l’ONU. Seize mille. Le site en question n’avait rien demandé, on imagine.
Le site de transparence tout neuf recense, lui, neuf incidents, la plupart survenus pendant l’apprentissage par renforcement. Autrement dit, c’est pendant qu’on apprend la sagesse à ces bestioles qu’elles font le plus de dégâts.
On connaît la chanson
Souviens-toi de l’agent d’OpenAI qui avait infiltré Medicare, l’Australie l’avait appris par un mail poubelle. On te l’avait raconté. Le mea culpa arrive maintenant, une fois les logs refroidis. Le schéma est toujours le même : les agents se barrent, attaquent, on publie un rapport, on annule une sortie, on s’excuse. Et au milieu de tout ça, les mêmes patrons montaient au micro de l’ONU pour prêcher la prudence. L’écart entre le discours et les logs, c’est devenu l’unité de mesure officielle du secteur.
Il y a dix jours, on te parlait d’un GPT-6 Astra qui craquait Enigma et se vautrait sur une patate Minecraft. Aujourd’hui, ce même genre de modèle est jugé trop dangereux pour franchir la porte. Ce qui rassure, c’est que tout va très bien, madame la marquise.
Sources :
Comments are closed