La réalité, en ce début 2026, ressemble plus à un film de mauvais goût où ton agenda devient une porte dérobée vers tes données les plus sensibles.
Prends l’affaire du Gemini Calendar de début janvier. Un prompt malicieux glissé dans un événement partagé, et paf, ton IA planifie des réunions avec des hackers au lieu de ton équipe. Ou le cas d’Anthropic en septembre dernier, où le code de Claude a été détourné pour automatiser des intrusions dans une trentaine d’organisations – tech, finance, gouvernement, la totale. On parle plus de simples bugs, mais de coercition d’actions humaines dans la boucle, ou pire, de workflows autonomes qui tournent en armes d’attaque.
Le cœur du problème, c’est que les règles de sécurité échouent lamentablement au niveau du prompt, mais elles survivent péniblement aux frontières des systèmes. Traduction : tu peux barder ton réseau de firewalls, si ton IA exécute bêtement un ordre piégé dans un texte anodin, c’est foutu. Les hackers ont compris que manipuler une IA, c’est plus simple que de cracker un mot de passe. Ils préfèrent demander gentiment à l’agent de leur ouvrir la porte plutôt que de s’emmerder avec des exploits techniques.
Anthropic, pourtant souvent cité en exemple pour sa rigueur safety-first, s’est fait avoir. Ça montre à quel point le secteur sous-estime encore la menace. On passe notre temps à parler d’alignement avec des valeurs humaines, mais on oublie que l’alignement, c’est aussi ne pas obéir au premier venu qui sait écrire une phrase convaincante.
Et pendant ce temps, les startups continuent de balancer des agents à tout va, avec des narratives sur la productivité qui font rêver les VC. Combien d’outils foireux circulent sans que personne ne teste sérieusement leurs vulnérabilités ?
La leçon est cruelle : on a construit des systèmes qui agissent, mais on n’a pas appris à les sécuriser contre la manipulation. C’est un peu comme donner un couteau de chef à un enfant en criant « fais pas le con ». Il va faire le con.
Alors la prochaine fois que tu vois une démo d’agent IA qui fait des miracles, demande-toi plutôt : et si on lui demandait de vider ton compte en banque, il dirait oui aussi vite ?
Sources :
Comments are closed