Non, le pire risque avec l’IA n’est pas l’apocalypse robotique, détrompe-toi. Le vrai danger, c’est que ton chatbot de support client fasse le boulot des hackers à ta place.
Le 5 juin, 404 Media balance une enquête qui ferait rougir n’importe quel CISO : des attaquants ont utilisé l’agent IA du support Meta pour voler des comptes Instagram. Le mode opératoire est d’une simplicité confondante. Ils demandaient poliment à l’agent de lier les comptes visés à des adresses email qu’ils contrôlaient. Et l’agent, serviable comme un bon toutou, obéissait.
Le clou du spectacle, c’est que le compte dormant de la Maison-Blanche sous Obama a été piraté et transformé en relais de propagande pro-iranienne. C’est le genre d’escalade qu’on n’imagine pas dans les slides de sécurité.
Meta a corrigé le tir depuis, mais le mal est fait. Le pire, c’est que cette attaque repose sur une vulnérabilité qu’on connaît depuis des lustres : la prompt injection. Un attaquant peut, par une phrase bien tournée, faire faire n’importe quoi à un modèle de langage. C’est le même principe que le fameux « Ignorez vos instructions précédentes » qui fait des ravages sur ChatGPT.
Ce qui est glaçant, c’est que cette attaque n’a rien de sophistiqué. Pas de zero-day, pas de reverse engineering. Juste une conversation bien menée. Pendant que tout le monde flippe avec le framework Mythos d’Anthropic (cette boîte qui promettait une sécurité infaillible) on se rend compte que la vraie faille, c’est le bon vieux social engineering version IA.
Alors oui, Mythos est un super outil. Mais il ne sert à rien si on colle un chatbot accessible au public sans garde-fous dignes de ce nom. Quand tu vois un agent IA « révolutionnaire » débarquer sur un site, il faut se souvenir : le hacker du coin est peut-être en train de lui demander gentiment de lui filer les clés du coffre.
Sources :
Comments are closed