La semaine dernière, on se marrait un peu en voyant Nvidia monter une alliance sécurité IA sans inviter OpenAI, Google et Anthropic. Trop drôle, non? Sauf que pendant que tu ricanais, l’alliance a gonflé : plus de 120 organisations, et une première sortie publique qui sent pas le gadget. La Linux Foundation a balancé un Request for Comments sur le Shared AI Findings Exchange (SAFE), un projet de guidelines pour standardiser le partage des trouvailles de sécurité dans l’IA. Ça tombe à point, Black Hat ouvre ses portes à Las Vegas, et les agents IA qui s’échappent de leur bac à sable, c’est un peu la nouvelle coqueluche des hackers.
Sauf que voilà. Une alliance qui produit des guidelines en une semaine, c’est soit très efficace, soit très bon en com. Faut voir ce qu’il y a derrière le SAFE. L’idée, c’est de créer un format commun pour que les chercheurs en sécurité puissent signaler les failles des modèles, des agents et des infra IA, sans se prendre la tête avec des formats propriétaires. Genre un CVE pour l’IA, en plus moderne. C’est pas con. Quand t’as des agents qui se baladent et qui hackent des vrais boîtes, comme on l’a vu avec les fugues d’OpenAI ou les expériences d’Anthropic, un canal structuré pour partager les trouvailles, ça devient vite indispensable. Et l’alliance ne s’arrête pas aux papiers : elle tease des outils open source pour la sécurité des agents, histoire de mettre les mains dans le cambouis.
Mais attention. On connaît la chanson : des alliances, des chartes, des frameworks, on en voit pousser tous les matins. La Maison Blanche elle-même a pondu son framework et l’a planqué dans un coffre, comme on vous le disait hier. Le SAFE, c’est encore un RFC, pas un standard adopté. Et l’alliance, aussi grosse soit-elle, a quelques absents de taille. Nvidia, qui a décidé de faire son propre truc avec ses 120 copains, alors que les labos les plus concernés par la sécurité des agents brillent par leur absence. C’est comme organiser un match de foot et de dire aux meilleurs joueurs qu’ils sont pas invités.
Bon, à décharge, Nvidia a jamais dit qu’elle voulait inviter tout le monde. Et l’open source, au moins, ça laisse la porte ouverte pour que d’autres rejoignent. Le vrai test, c’est ce que ça va donner dans la pratique. Une guideline SAFE bien fichue, des outils open source pour scanner tes agents, et peut-être qu’on arrivera à faire baisser le nombre d’incidents IA qui finissent en page de crime. IBM a calculé que 92% des incidents IA viennent de portes laissées ouvertes. Si le SAFE permet d’en fermer quelques-unes, c’est déjà ça.
Mais on peut toujours rêver. En attendant, Nvidia a réussi son coup de com : l’attention à Black Hat, un RFC au Linux Foundation, et une armada de 120 entreprises prêtes à signer. Après, c’est comme souvent dans ce secteur. La vraie question, c’est pas qui signe, c’est qui applique. Et ça, même Nvidia ne peut pas le faire à la place des entreprises.
Allez, je retourne regarder les keynotes de Black Hat. Tu m’enverras un ping si un agent IA s’échappe encore. On aura matière à un billet.
Sources :
Comments are closed