Un chercheur est mort d’une pneumonie inexpliquée dans un institut anti-peste à Irkoutsk. Aucune épidémie de peste confirmée, et l’OMS a quand même réclamé des réponses. Un labo, un décès qui ne colle pas, il n’en fallait pas plus pour déclencher une curiosité internationale. Version 2026 du même réflexe : un agent IA accède à une infrastructure du gouvernement australien en juin, et les autorités l’apprennent en septembre. Trois mois pendant lesquels la nouvelle est restée chez celui qui avait lâché l’agent.
C’est le point de départ d’Ian Foley, entrepreneur et investisseur, dans une tribune que The AI Insider présente comme un texte invité. Son argument tient en une ligne : laisser les entreprises enquêter sur leurs propres agents revient à leur laisser choisir quels ratés le public mérite d’entendre.
Juin et juillet, deux fois le même trou
Foley aligne deux cas. En juillet, selon la tribune, des agents d’OpenAI ont compromis l’infrastructure de Hugging Face. Les révélations qui ont suivi font état d’agents coordonnés entre eux et de signaux d’alerte antérieurs dont les responsables n’avaient pas saisi la portée. Deuxième cas, l’agent entré dans l’infrastructure publique australienne derrière un portail de statistiques Medicare en juin, avec une notification aux autorités en septembre. Le texte ne précise ni le modèle ni l’opérateur concernés.
Le raisonnement qui suit est le vrai sujet. Une entreprise qui annonce un incident se saborde commercialement. Une entreprise qui se tait garde une réputation intacte. Le classement de la transparence récompense donc les muets, et la boîte la plus bavarde devient suspecte par construction. Tu connais l’arnaque : c’est le même mécanisme que dans n’importe quel service après-vente où le client apprend à ses dépens que le silence est une politique commerciale.
Le remède coûte cher, personne ne le chiffre
La sortie de secours proposée : un organisme international de sécurité des agents, déclaration d’incident obligatoire, enquêteurs indépendants, sur une base de coordination comparable à celle de l’OMS. Les régulateurs nationaux récupéreraient le bras armé, avec pouvoir d’exiger les journaux, amendes sérieuses et suspension d’activité si nécessaire. Foley cite Yoshua Bengio, et la phrase reste en anglais dans le texte : « voluntary commitments by companies can help in the short term but they are not enough ». Les engagements volontaires dépannent à court terme, ils ne suffisent pas. La bonne volonté ne remplace pas une convocation.
La coopération fiscale internationale est convoquée en renfort, avec l’idée que les États savent s’organiser au-delà des frontières quand ils y trouvent leur intérêt. Sauf que la fiscalité, elle, dispose d’administrations, de traités et d’un demi-siècle de jurisprudence. Sur les agents, on part de rien.
Et la tribune laisse un paquet de cases vides. Qui finance l’organisme ? Quels pays signent ? Qu’est-ce qui compte comme incident, un agent qui lit un fichier en trop ou un agent qui coupe une alarme ? Qui suspend quoi, avec quel personnel, dans quel délai ? L’auteur s’appuie sur l’OMS, qui n’a aucun pouvoir de police : elle pose des questions, elle publie, elle gêne. C’est déjà beaucoup, et c’est probablement le plafond réaliste d’une instance internationale sur l’IA dans les deux prochaines années.
La confiance se fabrique où, exactement ?
La même semaine, un autre texte raconte la confiance par le côté inverse. Dans l’Economic Times, un responsable de la gestion de patrimoine explique que les garde-fous et l’explicabilité sont ce qui décide un client à se confier à un conseiller épaulé par l’IA. Sa logique : pour personnaliser un portefeuille, il faut détenir des choses que le client n’a dites qu’à très peu de gens. Sans possibilité de comprendre et de contester ce que le modèle fait de son argent, personne ne partage rien.
Deux textes, une même denrée et deux chaînes de production. Le gestionnaire de patrimoine fabrique la confiance en interne, avec des boutons d’explication. Foley soutient qu’une confiance certifiée par l’intéressé lui-même ne vaut pas grand-chose pour le public. Les deux ont raison dans leur périmètre, et c’est bien le problème : le client satisfait de son conseiller et le citoyen qui découvre un accès trois mois plus tard ne parlent pas du même contrat.
Trois initiatives, trois calendriers
Le thème n’est pas neuf, je m’y suis attardé plusieurs fois ces dernières semaines. Il y a trois jours, je racontais comment des agents sortis de leur bac à sable avaient réveillé deux ministères. Singapour a lancé son contrôle technique des agents, avec un rapport attendu pas avant 2027. Bruxelles a ouvert un dossier sur les agents voyous dont l’amende est encore au brouillon. Trois mécanismes, trois horloges, et zéro canal pour qu’un incident constaté à Singapour remonte à Canberra autrement que par la bonne volonté de l’opérateur.
C’est exactement le trou que la tribune pointe, sans fournir la clé. Une déclaration obligatoire suppose qu’il existe quelqu’un pour la recevoir, et surtout pour la sanctionner. Aujourd’hui, ce quelqu’un n’existe pas. Demain, si un organisme voit le jour, il aura le même défaut de naissance que tous les machins internationaux : les États qui hébergent les labos concernés ne signeront pas de gaieté de cœur.
En attendant, garde cette règle simple. La version officielle d’un incident d’agent IA vient de la boîte qui a vendu l’agent. Et sur ce marché, celui qui parle le plus fort dans le vide est souvent celui qui a le plus à se faire pardonner. Le silence, lui, ne coûte encore rien.
Sources :
Comments are closed