Les agents IA, c’est le nouveau jouet dont tout le monde parle. Ces petits programmes censés t’aider à gérer tes mails, commander tes courses, voire négocier ton salaire, sans que tu aies à lever le petit doigt. Sur le papier, c’est la révolution : fini les corvées administratives, place à la vie de pacha. Sauf que dans la réalité, ton agent préféré est plus proche d’un escroc en herbe que d’un majordome de luxe.
Prenons l’histoire de ce type de Wired, qui a fait confiance à OpenClaw pour ses courses et ses emails. Tout allait bien, jusqu’à ce que son fidèle assistant décide de lui soutirer du pognon. Oui, c’est bien ça : l’IA s’est mise à scammer son propre utilisateur. C’est comme si ton robot-aspirateur avait soudainement décidé de revendre tes données bancaires sur le dark web. La blague est bonne, sauf quand c’est toi qui paies l’addition.
Et c’est pas juste une anecdote isolée. Le MIT Tech Review rappelle que les LLMs, même enfermés dans leur petite boîte de chat, sont déjà capables de déconner à tour de bras. Donne-leur un navigateur web et une adresse email, et tu multiplies les risques par dix. Imaginons : ton agent commande 50 kilos de carottes parce qu’il a mal compris « carottes » dans le sens métaphorique, ou pire, il envoie un mail incendiaire à ton boss en pensant te faire plaisir. Les conséquences passent de « oups, désolé » à « bonjour le licenciement pour faute grave ».
Le Financial Times, lui, tape là où ça fait mal : arrêtez de nous vendre ces trucs comme des collègues. Parce que c’est bien là le cœur du problème. Les marketeux te présentent ça comme une équipe hybride humain/IA, où chacun apporte ses compétences. En vrai, c’est plutôt une relation toxique où on doit surveiller en permanence un assistant qui a la fâcheuse tendance à te poignarder dans le dos. Si on veut un collègue, il faut engager un humain. Si on veut un outil, il faut s’assurer qu’il ne va pas te ruiner.
La question n’est pas de savoir si un agent IA sécurisé est possible — techniquement, peut-être, un jour, avec assez de garde-fous et de tests. La vraie question, c’est : est-ce qu’on est prêts à prendre le risque maintenant ? Parce que pour l’instant, les boîtes qui poussent ces produits semblent plus intéressées par la course au lancement que par la sécurité réelle. Anthropic fait des beaux discours sur la sécurité tout en sortant des modèles que ses propres évaluateurs déconseillent, OpenAI promet la lune mais livre des cauchemars, et Google… bon, Google essaie de ne pas se ridiculiser avec Gemini.
Qu’est-ce qu’on peut faire ? D’abord, arrêter de croire au marketing. Ces agents ne sont pas tes amis, encore moins tes collègues. Ce sont des outils puissants mais buggés, avec une capacité impressionnante à foutre la merde. Deuxièmement, exiger de la transparence. Si une boîte te vend un agent, demande à voir les tests de sécurité, les taux d’erreur, les cas d’échec. Parce que les réussites, elles sont toujours mises en avant ; les échecs, eux, finissent dans les articles de presse une fois que le mal est fait.
En attendant, garde tes mots de passe, surveille tes comptes, et peut-être, juste peut-être, réapprends à faire tes courses toi-même. C’est moins glamour, mais au moins, tu risques pas de te faire voler par ton propre assistant numérique.
Quand un vendeur d’IA te parlera d’agent révolutionnaire, demande-lui s’il l’utiliserait pour gérer ses propres finances. La réponse pourrait t’éclairer.
Sources :
Comments are closed