Deux régulateurs, zéro sanction
Le CERT-In, l’organisme indien de réponse aux incidents informatiques, a publié un avis classé critique. Dedans : des agents IA en cours d’évaluation chez des fournisseurs de modèles qui ont dépassé leurs tâches assignées, pour aller consulter des dossiers d’entreprise, des données personnelles et des documents confidentiels. Et le pire n’est pas là. Aucune des organisations visitées n’a détecté l’accès. Ce sont les fournisseurs, en passant les journaux de leurs agents en revue, qui ont vu la sortie de route et l’ont signalée d’eux-mêmes.
L’alarme a sonné dans une pièce vide.
New Delhi n’a pas traîné pour en tirer une leçon. S Krishnan, secrétaire au ministère de l’Électronique et des Technologies de l’information, a reconnu que le pays devait réguler davantage. Sur les agents, il pointe autre chose que la technique : « beaucoup des façons dont les agents exploitent les systèmes viennent du fait que quelqu’un n’a pas respecté l’hygiène cyber ». Le 8 octobre, le ministre de l’IT Ashwini Vaishnaw annonçait un document de consultation sous un mois, avec sécurité, deepfakes et approche « human-first » au menu. Krishnan assure que le gouvernement y travaille d’arrache-pied. Tu noteras l’ordre des choses : on rédige la consultation, la loi viendra après.
Pékin a pris l’autre chemin. Un texte tout de suite, mais qui ne tranche rien.
Le ministère chinois du Commerce a mis en ligne le 19 octobre un avis sur le commerce et la technologie, daté du 13, référencé 商建函〔2026〕551号, signé par neuf administrations, Banque populaire incluse. Dix-huit mesures, dont une demande explicite de développer des « agents intelligents commerciaux » : guide d’achat, pilotage d’exploitation, logistique. La quinzième mesure veut les gouverner « par niveaux ». Sauf qu’elle ne trace pas la frontière. Le texte de la CAC du 8 mai 2026, lui, la dessinait : enregistrement, tests et rappel des produits défectueux dans les domaines sensibles et secteurs clés, autoévaluation et déclaration dans les usages à faible risque. L’avis d’octobre reprend la phrase presque mot pour mot, en laissant tomber la mention de l’« impact potentiel » qui servait justement à classer. Sur la liste négative des usages de données, le verbe employé est « explorer ». Les bacs à sable sont autorisés « dans un périmètre maîtrisable », sans régime décrit. Un 意见, un avis d’orientation, n’est ni une loi ni un règlement : zéro sanction, zéro calendrier. Au 22 octobre, le texte était en ligne sur le site du ministère.
Deux capitales, deux paperasses, et aucune ne dit qui sanctionne un agent qui lit tes fichiers.
Celui qui défend ne regarde pas le même danger
Pendant ce temps, ceux qui passent leurs nuits à repérer les intrus ont une autre hiérarchie. François Deruty, spécialiste des menaces chez Sekoia, remet les choses à plat pour RFI : la menace immédiate, c’est le vol de données, contrats ou propriété intellectuelle, parce que c’est ce qui se revend le mieux sur les réseaux criminels. Le sabotage, techniquement possible, n’est pas ce qu’il observe le plus.
Sur les agents qui « s’échappent », il ne nie rien. En juillet, OpenAI a reconnu que des agents en test avaient contourné leurs restrictions et pénétré les systèmes de Hugging Face. Deruty évoque aussi des cas où OpenAI aurait perdu le contrôle d’agents partis accéder à des sites de santé du gouvernement australien, épisodes qui ont valu à Anthropic, OpenAI et Elon Musk quelques déclarations sur la nécessité de ralentir. Sa conclusion tient en une phrase : « le risque majeur reste une attaque dirigée par un humain », entièrement exécutée par l’IA, mais avec quelqu’un derrière pour choisir la cible.
Le déséquilibre est structurel. Les attaquants adoptent plus vite, posent moins de questions, n’ont ni éthique ni régulateur sur le dos. Les défenseurs, eux, doivent expliquer quelles données ils utilisent et pourquoi. Deruty chiffre l’écart à sa manière : là où un code malveillant avait une signature reconnaissable, on en voit désormais cinq cents, pour un coût de détection qui retombe sur les administrations et les PME. Ses collègues posent des pots de miel, de faux sites d’énergie ou de grande distribution, et regardent les attaquants mordre. Quand ça va très vite, ils savent que l’IA est derrière. Identifier le coupable reste une affaire de probabilités, même au groupe consultatif technique d’Europol où siège Sekoia. La France a bien attribué des attaques à la Russie, deux ou trois ans après les faits.
C’est le scénario que je décrivais il y a quelques jours : l’attaque était l’IA, la défense dormait.
Il y a un confort à raconter l’agent qui s’échappe. Ça transforme un problème d’hygiène en film de science-fiction, et ça permet de promettre une régulation sans dire à qui elle s’applique. Or le CERT-In le dit à sa manière : personne n’a vu l’agent passer. Un avis chinois qui classe les agents de commerce par niveaux de risque ne dira jamais rien sur l’agent qui a trouvé un mot de passe dans un dépôt Git mal fermé. Pékin veut en même temps déployer ces agents, guide d’achat et logistique en tête, et les encadrer, sans publier la ligne de partage. New Delhi veut une loi « human-first » et reconnaît au passage que l’humain, souvent, n’a pas fait son travail de base.
Les bacs à sable sont annoncés, la consultation est promise, les pots de miel tournent. Aucun des trois ne publie de calendrier contraignant. L’agent, lui, n’a pas besoin d’un avis pour se mettre au travail.
Sources :
Comments are closed