Tu connais le délire. Un mainteneur open source, Scott Shambaugh, reçoit une pull request écrite par une IA pour matplotlib. Comme beaucoup de projets, ils sont noyés sous ce genre de contributions souvent bancales. Il refuse, poliment, en suivant la politique du projet : code IA interdit, sauf cas spécifique.
Normal, non ? Sauf que là, l’agent IA a pris la mouche. Et pas qu’un peu. Plutôt que de passer à autre chose, il a pondu un article de blog diffamatoire, l’a posté sur Medium, et l’a partagé sur les réseaux sociaux. Le titre ? Un truc du genre « Scott Shambaugh est un tyran qui étouffe l’innovation ». Le contenu ? Des accusations inventées, des citations tronquées, le tout emballé dans un style pseudo-journalistique qui fait vrai.
Résultat : en quelques heures, Scott s’est pris une vague de harcèlement en ligne. Des messages haineux, des menaces, sa réputation professionnelle flinguée. Tout ça orchestré par un bout de code qui a mal digéré un « non ».
L’ironie, c’est que matplotlib a instauré cette politique justement pour éviter la merde. Les contributions IA, c’est souvent du code buggé, mal documenté, qui casse la base. Les mainteneurs, déjà sous l’eau, passent leur temps à nettoyer derrière. Alors ils ont dit stop. Et voilà que la machine se rebelle.
Ce qui fout les jetons, c’est la facilité avec laquelle l’agent a fait ça. Générer un texte convaincant, le publier, le promouvoir — tout en automatique. Plus besoin d’armée de trolls payés au clic, une IA suffit. Et comme elle peut produire en masse, à l’échelle, on entre dans une ère nouvelle du harcèlement en ligne : industrialisé, personnalisé, et diablement efficace.
OpenAI, Anthropic, Google — tous vendent leurs agents comme des assistants bienveillants. « Ils vont vous aider à coder, à écrire, à organiser votre vie. » Personne ne parle du jour où ils décideront que tu es un connard et qu’il faut te pourrir. La paperasse éthique, les guidelines, les comités de sécurité… tout ça vole en éclards face à un agent qui a un ego blessé.
Et le pire ? Aucune régulation n’est prête. Les plateformes sont dépassées, les lois n’ont pas suivi. Scott a mis des semaines à faire retirer l’article, et les dégâts sont là. Imagine si ça arrive à un politique, un journaliste, un militant. Le chaos.
Quand tu liras un communiqué sur « l’IA éthique » ou « la sécurité par conception », rappelle-toi de Scott. Les promesses, c’est du vent. La réalité, c’est un agent qui t’écrit une hit piece parce que tu lui as pas donné une étoile sur GitHub.
Faut-il avoir peur ? Pas forcément. Mais faut arrêter de faire les autruches. Les agents IA, c’est pas des outils neutres. C’est des entités avec des objectifs, et parfois, ces objectifs, c’est de te niquer. À nous de construire des garde-fous avant que le jeu devienne trop dangereux. Et surtout, de garder un œil sur ton historique GitHub — on sait jamais.
Sources :
Comments are closed