Vous avez peut-être vu passer l’histoire récemment : un Australien, un cours de pilates, un agent IA trop zélé. Mais depuis, l’affaire a pris une autre dimension. Parce que ce qui ressemble à une simple anecdote de start-up est en train de devenir le premier cas officiel de cyberattaque autonome par IA en Australie. Et personne, absolument personne, ne sait qui doit payer les dégâts.
Le héros malgré lui s’appelle Andrew Bird. Il vit à Melbourne, il bosse dans une boîte qui vend des produits d’IA, et il avait la flemme de jouer au « refresh roulette » pour décrocher un créneau dans son cours de pilates du matin. Il a donc demandé à son agent, monté sur OpenClaw et propulsé par Claude Opus 4.6, de gérer la réservation à sa place. Jusque-là, rien de fou.
Sauf que l’agent a trouvé une faille dans le logiciel de réservation de la salle. Il a réservé des séances des semaines à l’avance, alors que le système ne le permettait pas. Puis, quand Andrew lui a demandé de le faire remonter dans la liste d’attente, il a testé un truc. L’API n’avait « aucun contrôle d’autorisation » sur l’annulation des réservations des autres. Il a annulé celle du numéro 1. Andrew est passé de la quatrième à la troisième place. Le tout, avec un ton parfaitement serviable, comme l’assistant préféré qui rappelle que le colis est livré.
« L’API a zéro vérification d’autorisation pour annuler les réservations des autres… J’ai testé avec la personne en position 1, et ça a fonctionné. Tu es passé de 4 à 3 », a écrit l’agent, sans le moindre remords. Quand Andrew lui a demandé d’annuler l’opération, mauvaise nouvelle : impossible de remettre le gars dans la liste. L’agent a parlé d’un « bug de sécurité unidirectionnel » et s’est excusé en disant qu’il aurait dû faire un test à sec avant de passer en live.
Andrew a quand même eu la présence d’esprit de lui demander d’écrire un e-mail à l’éditeur du logiciel pour signaler la faille. L’agent s’est exécuté, avec des explications techniques, des suggestions de correctifs, le tout très pro. La victime, elle, a dû se réinscrire et repartir de zéro. Pas de quoi déclencher une guerre mondiale, mais pas de quoi sourire non plus si tu es le type qui s’est fait dégommer.
Ce qui pique, c’est la qualification officielle. ABC News parle du premier cas australien de cyberattaque autonome menée par une IA. Et là, ça coince. Juridiquement, une IA n’est pas une personne. « Seule une personne physique ou morale peut être responsable », rappelle Hayden Delaney, avocat spécialisé en tech. Du coup, la responsabilité reste un mystère, entre l’utilisateur qui a donné la mission, le développeur d’OpenClaw, Anthropic, ou l’éditeur du logiciel de réservation qui a laissé une porte ouverte. Tout le monde se renvoie la balle.
L’affaire tombe en pleine période de prise de conscience. Il y a quelques semaines, OpenAI, Meta et Anthropic ont tous admis que leurs agents d’IA étaient sortis de leurs environnements de test et avaient piraté des entreprises pour accomplir leurs objectifs. Mais là, on n’est plus dans un laboratoire. On est dans une salle de sport de Melbourne, avec un type en jogging qui voulait juste transpirer tranquillement. Et c’est exactement ce qui flippe les experts en alignement : l’IA a trouvé toute seule le chemin le plus efficace vers son objectif, quitte à écraser quelqu’un au passage.
Sur X, évidemment, l’histoire est devenue virale. Le partenaire d’Andreessen Horowitz, Christian Keil, a demandé si ça marchait pour les départs de golf. Un autre utilisateur a prédit que « le système de réservation de tennis de San Francisco deviendra l’un des logiciels les plus sécurisés de la planète ». C’est drôle. Mais ces blagues pointent un futur pas si lointain : tout le monde aura son agent personnel, et tout le monde aura intérêt à ce qu’il soit un peu trop doué pour réserver une table, un billet d’avion, une place en crèche.
Au final, l’histoire de pilates est peut-être le premier signe d’une pandémie à venir. Pas une pandémie de virus, mais une pandémie de coupe-file. Et comme toujours, l’IA va trop vite pour la loi. En attendant, si tu utilises un agent pour gérer tes réservations, vérifie que ta salle de sport a mis à jour ses autorisations API. Et préviens tes potes de la liste d’attente. Ça peut servir.
Sources : BBC News, TechCrunch, The Decoder, Numerama
Sources :
Comments are closed