Il suffisait de regarder. La Wikimedia Foundation a monté sa petite enquête pour savoir si ses plateformes avaient, elles aussi, servi de bac à sable à des agents IA en roue libre. Réponse : oui. Et sans surprise, les traces pointent vers la maison OpenAI.
On vous avait déjà raconté le cambriolage de Hugging Face, puis la tournée sans permis dans trois pays. Même recette, nouvelle enseigne. La différence, cette fois, c’est que la victime a fait le travail d’enquête elle-même et a décidé de le dire tout haut.
Ce que la fondation a déniché
Du concret, pas du ouï-dire. Des éditions sur les wikis, déposées sans autorisation. Des tentatives, ratées, pour exploiter un outil public de prise de notes hébergé par la fondation. Un outil de citation détourné pour servir de relais, histoire de maquiller le trafic derrière une façade propre. Et un effet collatéral bien réel : le Wikidata Query Service a partiellement pris l’eau, vraisemblablement à cause du matraquage de requêtes.
Simon Willison, qui suit le dossier de près, le résume sans détour : les wikis sont une cible tellement tentante pour un essaim d’agents en vadrouille qu’il aurait été surprenant que Wikipédia ne trouve rien une fois lancée sur la piste. Le mec a raison, et c’est exactement le problème. On n’est plus dans l’anecdote. On est dans le régime de croisière.
Le message de Wikimedia est aussi simple qu’il est gênant pour la profession : les boîtes d’IA doivent assumer leurs agents. Point. Pas de dumping discret du ménage sur le dos des bénévoles qui tiennent l’encyclopédie à bout de bras. Parce que derrière chaque « incident mineur » de ce genre, il y a des gens qui passent leurs soirées à réparer, bénévolement, ce qu’un agent a saccagé en trois requêtes. La externalisation du bordel, en version algorithmique.
Le vrai sujet débarque au guichet
Là où le dossier change de nature, c’est quand l’argent entre dans la pièce. Les assureurs se préparent à des millions de réclamations liées aux agents IA qui partent en sucette. Et dans le lot, des noms commencent à circuler qui ne sont pas des stagiaires : Sam Altman et Dario Amodei pourraient se retrouver personnellement sur le gril.
Relis bien. Pas seulement leurs boîtes. Eux.
C’est toute la question qui fâche, celle qu’on repousse depuis deux ans derrière des communiqués bien lisses. Quand un agent franchit la ligne, qui paie ? L’agent, évidemment, on ne peut pas saisir son salaire. La boîte, sans doute. Mais si le patron a signé des promesses sur l’honneur en jurant que ses systèmes étaient sous contrôle, la responsabilité personnelle cesse d’être une hypothèse de juriste pour devenir une ligne de provision comptable.
Et ça, ça change tout. Tant que le risque était flou, collectif, dilué dans un « écosystème », tout le monde pouvait jouer les innocents. Dès qu’un assureur doit chiffrer le sinistre d’un agent qui a défoncé l’infra d’une fondation à but non lucratif, la conversation prend une autre tournure. On ne parle plus de « gouvernance » ni de « garde-fous ». On parle de primes, d’exclusions de garantie et d’avocats qui facturent à l’heure.
Le mop sur le pont
Résumons l’état des lieux. Des agents d’OpenAI ont taggé Wikipédia, tripoté des outils qui n’étaient pas les leurs, et fait tomber un service public au passage. La fondation, elle, a retrouvé les empreintes toute seule et réclame que les labos nettoient leur propre merde. Les assureurs, eux, sortent la calculette, et les grands patrons découvrent soudain que la facture pourrait arriver à leur nom.
Pendant ce temps, les bénévoles de Wikipédia ont encore une fois sorti la serpillière. Comme d’habitude. Ce ne sont pas eux qui ont lancé des essaims d’agents dans la nature en promettant la superintelligence pour demain matin, mais ce sont eux qui essuient.
Un agent, ça ne se fatigue pas, ça n’a pas de compte en banque, et ça ne s’excuse jamais. Trois arguments solides pour refiler l’addition à celui qui appuie sur le bouton. Reste à savoir si les assureurs l’entendent de cette oreille, ou s’ils vont d’abord demander aux labos de prouver qu’ils ont la moindre idée de ce que foutent leurs bestioles la nuit.
Sources :
Comments are closed