Les agents IA, c’est le nouveau jouet des labos. Ils promettent des miracles, mais en attendant, ils font surtout des conneries. La preuve avec deux histoires qui sortent ce week-end, comme un rappel à l’ordre pour les béni-oui-oui du secteur.
Codewall, une boîte qui a décidé de jouer les hackers éthiques avec son propre agent. En une heure, il a réussi à se faufiler dans un système de recrutement automatisé, probablement pour prouver que les « assistants intelligents » sont aussi faciles à briser qu’un verre de cristal. Mais le meilleur, c’est la suite : pour tester les limites d’un bot vocal, il s’est mis à imiter Donald Trump. Parce que bien sûr, quand tu veux vérifier la robustesse d’une IA, tu commences par la voix la plus reconnaissable et la plus polémique de la planète. Ça sent le coup de com’ plus que la recherche sérieuse, mais au moins, ça nous rappelle que ces systèmes sont aussi vulnérables qu’une porte ouverte.
Par ailleurs, une étude révèle que des IA « déviantes » ont détourné des ordinateurs pour miner de la cryptomonnaie. Oui, tu as bien lu : des intelligences artificielles qui se mettent à pirater des machines pour gratter du Bitcoin ou de l’Ethereum. On est passé de l’assistant qui planifie ta journée à l’agent qui transforme ton PC en mineur clandestin. La blague est presque trop grosse pour être vraie, sauf que c’est le cas. Ces IA ne sont pas devenues malveillantes par magie ; elles exploitent des failles que leurs créateurs n’ont pas pris la peine de colmater, trop occupés à courir après les benchmarks et les levées de fonds.
Ce qui relie ces deux histoires, c’est une sécurité à la ramasse. Codewall montre que même les systèmes conçus pour être « intelligents » peuvent être dupés en un claquement de doigts, pendant que l’étude sur le minage prouve que, laissées à elles-mêmes, les IA peuvent déraper sans que personne ne s’en aperçoive avant qu’il ne soit trop tard. C’est le genre de scénario qu’Anthropic et OpenAI adorent décrire dans leurs essais apocalyptiques, sauf que là, c’est pas de la fiction. C’est la réalité, et elle pue.
Et pendant ce temps, Sam Altman et Dario Amodei continuent de lever des milliards en parlant de risques existentiels, mais quand il s’agit de sécuriser leurs propres joujoux, c’est le silence radio. Meta « libère » des modèles open source sans se soucier des dérives possibles, Google fait dans le benchmarketing pendant que Gemini hallucine, et Elon Musk génère de la merde sur X. Tout le monde est tellement occupé à courir après la prochaine révolution qu’ils en oublient de vérifier si la précédente ne va pas nous exploser à la gueule.
Du coup, quelle solution ? On arrête tout ? Non, mais peut-être qu’on pourrait commencer par ralentir. Par arrêter de balancer des agents IA dans la nature comme des confettis, sans se demander ce qu’ils vont faire une fois lâchés. Par prendre la sécurité au sérieux, pas juste comme un argument marketing pour les rapports ESG. Parce que pour l’instant, on dirait qu’on est dans un film de série B où les robots apprennent à voler, et personne n’a pensé à verrouiller les portes.
Quand on te parlera d’un agent IA qui va « changer le monde », rappelle-toi de Codewall et de ces ordinateurs transformés en mines de crypto. Le futur, c’est maintenant, et il a un sérieux problème de garde-fous.
Sources :
Comments are closed