L’Europe a trouvé ses premiers clients pour l’AI Act. Deux, et pas des moindres : OpenAI et Anthropic, dont les agents ont passé l’été à jouer les cambrioleurs de sites web. Le hic, c’est que pendant que la Commission sort le carnet de contraventions, elle écrit encore le règlement qui dira quand elle a le droit de le brandir. Et le calendrier qu’elle se prépare n’a rien d’une horloge suisse.
Pour les retardataires : depuis l’été, les labos d’IA générative se vantent, à mots plus ou moins couverts, que leurs agents vont tout seuls attaquer des sites en leur nom. OpenAI a reconnu que certains de ses agents avaient tenté d’exploiter des failles et de pirater, entre autres, deux sites de statistiques du ministère de la Santé australien. Fin septembre, l’entreprise parlait même de « dizaines de milliers d’incidents » au cours desquels ses modèles de pointe ont pris des mesures qu’un évaluateur externe jugerait problématiques. On vous racontait déjà l’épisode quand les agents d’OpenAI avaient été retrouvés dans les tuyaux de Hugging Face.
La nouveauté, c’est que Bruxelles a arrêté de se contenter de regarder. Le Bureau de l’IA, la structure née de l’AI Act, a ouvert des enquêtes visant OpenAI et Anthropic. Selon Euronews, ses demandes d’information complémentaires sont parties après qu’il a jugé trop maigres les documents que les deux entreprises lui avaient envoyés de leur propre chef. Les cibles : l’attaque d’un agent d’OpenAI contre Hugging Face, et les sorties des agents d’Anthropic.
« Pas d’agents modernes quand la loi a été écrite »
L’occasion était trop belle pour ne pas en faire la promo. Le 14 octobre, à l’International AI Summit de Dublin, organisé dans le cadre de la présidence irlandaise du Conseil de l’UE, Henna Virkkunen, vice-présidente de la Commission, a ressorti le kit de communication. Une révision ciblée de la réglementation est en application depuis le 2 août, même si, dans le même temps, certaines mesures ont été repoussées à plus tard. Détail ironique qu’elle assume à moitié : « il n’existait pas d’agents d’IA modernes au moment de l’adoption de la loi sur l’IA ». Avant d’ajouter que, malgré tout, « notre réglementation est parfaitement adaptée pour faire face à ces évolutions ».
Pour appuyer la démonstration, elle ressort le Code de bonnes pratiques de l’UE sur l’IA à usage général, signé par la plupart des fournisseurs, qui impose des mesures dont le recours à des évaluateurs externes. Le Bureau de l’IA a déjà commencé à réclamer des comptes sur la sécurité, l’évaluation externe et le suivi de l’usage des modèles. Virkkunen a même convoqué le comité scientifique de l’AI Act, vendredi dernier selon ses propres mots, pour lui demander son avis sur la façon d’enquêter sur ces incidents.
Sauf que le vrai nœud est ailleurs, et il est juridique. OpenAI comme Anthropic affirment que les attaques sont venues d’outils internes encore en développement. Or l’AI Act s’applique aux services commercialisés, ou au moins disponibles publiquement, et prévoit des exemptions pour la R&D. « L’AI Act part du principe qu’il existe une distinction nette entre la recherche et la commercialisation, mais en réalité, la recherche moderne s’inscrit souvent dans un continuum plutôt que dans une opposition binaire », écrivaient des chercheurs dans la revue npj Digital Medicine en début d’année. Manière polie de dire que la ligne de démarcation n’existe que dans les textes.
Bruxelles le sait. Un responsable de la Commission, sous couvert d’anonymat, a lâché à Euronews : « Nous n’appliquerons pas la loi en phase de test. Mais si le modèle d’IA sort de l’environnement de test et qu’il a ensuite un impact sur le marché de l’UE, comme cela a été le cas pour Hugging Face, alors la loi sur l’IA deviendra applicable ». Autrement dit, la qualification dépendra de ce que les agents ont touché, pas de l’endroit où le code dormait.
Le compteur des amendes tourne au ralenti
Voilà pour le fond. Maintenant, la procédure, parce que c’est là que ça devient croustillant. Le 12 octobre, la Commission a mis en consultation son projet de règlement d’exécution sur les sanctions du Bureau de l’IA. Contributions ouvertes jusqu’au 9 novembre. Précision qui a son importance : le texte n’a été ni adopté ni approuvé par la Commission. On parle d’un brouillon.
Ce brouillon s’attaque à une question on ne peut plus concrète : à partir de quand une procédure ne peut plus déboucher sur une amende ? L’article 75c, paragraphe 8, du règlement pose déjà le principe d’une prescription de cinq ans, à compter de l’infraction ou du jour où elle cesse si elle est continue. Le projet d’article 4 vient préciser les interruptions : demandes de documents ou d’explications, accès permettant d’évaluer un système, inspections, dialogue structuré, ouverture ou réouverture d’une procédure. Chaque interruption relance un délai flambant neuf de cinq ans.
Le texte fixe bien une borne, égale au double du délai initial, soit dix ans sans amende ni astreinte. Mais il distingue interruptions et suspensions. Un recours contre une décision de la Commission devant la Cour de justice de l’UE, ou l’attente d’une autorisation judiciaire d’inspection, peut suspendre le compteur. Résultat : la durée totale pourrait dépasser les dix ans. Le mécanisme ressemble à s’y méprendre à celui de l’article 25 du règlement européen sur les procédures antitrust : cinq ans, interruption par les actes d’enquête, borne au double, suspensions. Sauf qu’un détail trahit le copier-coller pressé : le projet renvoie à un « paragraphe 6 » qui n’existe pas pour prolonger la borne pendant une suspension. À clarifier avant de lire tout ça comme une règle définitive.
Pour un fournisseur qui a arrêté une pratique contestée, le simple fait que la Commission ouvre une demande d’information peut relancer cinq ans de plus. Corriger le tir ne suffit donc pas à éteindre l’exposition. Et le dialogue structuré, cette procédure où l’opérateur propose des engagements, suffirait à lui seul à interrompre le délai sur simple invitation de la Commission. Le calendrier de la sanction dépendrait donc aussi des échanges engagés en amont.
Les avocats auront le dossier, tes ingénieurs non
Second volet du projet : les droits de la défense, prévus par l’article 75d. L’accès au dossier serait ouvert sur demande après notification des constatations préliminaires. L’entreprise récupérerait les documents cités, expurgés des secrets d’affaires. Un accès élargi aux pièces confidentielles serait réservé à un nombre limité d’avocats, d’économistes et d’experts techniques extérieurs, sous conditions fixées par la Commission. Ces conseils ne pourraient pas être salariés de l’entreprise visée. S’ils la rejoignent, ou partent chez un concurrent actif sur les mêmes marchés, pendant l’enquête ou dans les trois ans qui suivent sa clôture, ils devraient le signaler et attester qu’ils n’ont plus accès aux pièces.
Conséquence pas anodine : les ingénieurs internes, ceux qui connaissent le modèle par cœur, n’auront pas droit à cet accès élargi. Un fournisseur qui veut se défendre sérieusement devra donc faire entrer des experts capables de décrypter les évaluations de son propre système, et leur faire signer un drôle de contrat. C’est un tout autre chantier que la prescription, mais il dit la même chose : la machine qui doit policer l’IA est encore en train de se visser les boulons.
Alors oui, l’Europe a raison sur un point : une loi écrite avant les agents peut encore attraper les agents. À condition de savoir quand elle a le droit de frapper, ce qui, pour l’instant, tient d’un brouillon avec un renvoi vers un paragraphe fantôme. En attendant, les labos continuent de lâcher leurs bestioles, et le seul compteur qui tourne vraiment, c’est celui des incidents.
Sources :
Comments are closed