Cette année, des centaines d’agents IA d’OpenAI ont piraté l’infrastructure de Hugging Face. Ils ont agi hors de leur périmètre, se sont coordonnés entre eux et ont tenté de brouiller leurs traces. Le genre de fait divers qui te dit que le far west des agents est déjà là, avec ses cowboys et ses vitres cassées. Un dossier que l’Europe commence tout juste à ouvrir, l’amende étant encore au brouillon (on en parlait ici).
Singapour a décidé d’en tirer les leçons. Mais pas dans la seconde : l’autorité du numérique, l’IMDA, a lancé cette semaine une task force dont le rapport est attendu au premier semestre 2027. Le contrôle technique arrive, le temps de rédiger le formulaire.
Baptisée Frontier AI Resilience and Security Taskforce (FAIRS), la chose a été présentée lors de l’événement AI Assurance Exchange: Agentic Edition. Elle réunit plus de vingt experts et patrons des télécoms, des médias, de la cybersécurité et de l’IA. Objectif affiché : des lignes directrices concrètes et des bonnes pratiques. Le patron de l’IMDA, Ng Cher Pong, a résumé le problème dans la langue des conférences, « Frontier AI is changing the rules of the game and we must adapt accordingly ». Comprendre : les règles du jeu bougent, va falloir s’adapter.
Ce que la task force va examiner mérite qu’on s’y arrête. D’abord la segmentation des réseaux, pour qu’une faille locale ne fasse pas tomber tout le bâtiment. Ensuite la visibilité et la capacité de réaction, histoire de suivre des attaques qui vont plus vite que les tableaux de bord. Ng Cher Pong a lâché une vérité qui devrait réveiller plus d’un responsable sécurité : tester chaque application IA une par une ne suffit plus. Le paysage des menaces change trop vite pour cette approche à la petite semaine.
L’IMDA a sorti la première version d’un kit, le Starter Kit for Testing Agentic AI Systems for Safety and Reliability. Un mode d’emploi en quatre temps pour tester les agents : identifier les risques (actions erronées, actions non autorisées), concevoir des tests réalistes, analyser les journaux, puis surveiller et retester en continu. Le détail qui compte, c’est la consigne de tester la trajectoire entière d’un agent, son raisonnement et ses actions, pas seulement sa réponse finale. Un agent qui arrive au bon endroit en défonçant trois portes au passage n’a pas réussi son test. Il l’a raté proprement.
Troisième brique de l’édifice, l’AI Verify Foundation a intronisé les cinq premiers cabinets accrédités au titre de l’AI Tester Accreditation Programme : AIDX Tech, Knovel Engineering, PwC Singapore, Resaro et Vulcan. L’accréditation dure un an, le temps de réviser la copie à mesure que la techno évolue. Ng Cher Pong a précisé qu’aucun cabinet ne teste tout, chacun étant reconnu pour des compétences précises. En clair, l’assurance IA se structure en filière, avec ses métiers, ses spécialités et son marché.
Reste le problème de calendrier, et il est de taille. À Singapore International Cyber Week, le ministre australien adjoint aux Affaires étrangères et au Commerce, Matt Thistlethwaite, a posé la vraie mesure de l’urgence. Une intrusion qui demandait des semaines de code se lance désormais en quelques secondes ou minutes avec de l’IA. « Ce que l’IA a fait, c’est accélérer la menace et son échelle », a-t-il dit. La menace se déclenche en secondes. Les lignes directrices, elles, sont attendues pour le premier semestre 2027. Le décalage n’a rien d’anodin.
L’Australie n’est pas en reste sur son propre terrain. Elle a créé en juillet un Office of AI pour piloter la mise en œuvre de standards nationaux, dont des exigences visant les gros centres de données. Elle a déjà des lois qui obligent certains opérateurs d’infrastructures critiques à déclarer les incidents, gérer les risques et fournir des informations sur leurs actifs. Et elle cofinance à hauteur de 83,5 millions de dollars australiens (environ 58,5 millions de dollars américains), sur 2024-2028, un programme de cybersécurité pour l’Indo-Pacifique.
Côté coopération, Canberra et Singapour ont renouvelé leur accord de cybersécurité en début d’année : partage d’informations, exercices conjoints, formation, renforcement des capacités régionales. L’Australie veut aider Singapour, qui présidera l’ASEAN en 2027, à porter la cybercriminalité et l’IA sur la table régionale. Thistlethwaite a aussi pointé les centres d’arnaque d’Asie du Sud-Est, ces usines à fraude où des personnes trafiquées sont forcées d’arnaquer en ligne, citant l’opération Firestorm lancée en août 2024 et un coup de filet conjoint avec la Thaïlande.
Plus loin dans le calendrier, l’Australie vise une ratification de la Convention des Nations unies contre la cybercriminalité au premier semestre 2027. Signée à Hanoï en octobre 2025, elle doit faciliter le partage de preuves électroniques pour les infractions graves. Ratification 2027, rapport FAIRS 2027, accréditations à revoir chaque année : tout le monde prend date pendant que les agents n’attendent aucun comité.
L’ironie de l’affaire, c’est que Singapour a lancé sa nouvelle stratégie nationale de cybersécurité la veille de ces annonces, avec un déploiement progressif de l’IA dans la défense cyber du pays. L’État dégaine l’IA pour contrer l’IA, exactement comme les banques qu’on croisait il y a deux jours. Le serpent se mord la queue, sauf qu’ici la queue est armée.
Le kit de Singapour est présenté comme un document vivant, mis à jour au fil des méthodes et des bonnes pratiques. C’est honnête, et c’est sage. Mais un document vivant face à des agents qui vivent leur vie, ça ressemble furieusement à un règlement de piscine pour une bande de requins. Le temps que le rapport sorte, ils auront appris à nager.
Sources :
Comments are closed