T’as vu passer l’info ? Claude Mythos, le dernier jouet d’Anthropic, peut pirater un réseau d’entreprise de A à Z, tout seul comme un grand. L’AI Safety Institute britannique a testé le truc, et pour la première fois, un modèle d’IA a réussi à mener une simulation d’attaque complète contre un réseau corporate. Jamie Dimon, le boss de JP Morgan, a réagi en disant que ça révèle « beaucoup plus de vulnérabilités » pour les cyberattaques. Surprise, un banquier qui parle de risques. Mais bon, t’as l’impression que tout le monde regarde la fumée et pas le feu.
Déjà, commençons par les faits. L’étude, publiée par l’AI Safety Institute, montre que Mythos est capable de compromettre un réseau « faiblement défendu » de manière autonome. Pas besoin d’un hacker humain pour guider chaque étape. Le modèle scanne, trouve les failles, exploite, pivote, et exfiltre des données. Sur le papier, c’est flippant. Dans la réalité, c’est surtout une démonstration technique qui confirme ce qu’on savait déjà : les IA actuelles sont des outils de hacking de plus en plus efficaces. Mais « faiblement défendu », ça veut dire quoi ? Un réseau avec des mots de passe par défaut, des ports ouverts, et une équipe IT en vacances ? Probablement. L’étude précise que les résultats viennent « avec des mises en garde significatives ». Traduction : ne paniquez pas, c’est un test en labo.
Maintenant, passons à Jamie Dimon. Le mec sort une déclaration alarmiste sur les « vulnérabilités ». Ouais, merci capitaine Évidence. Un banquier qui s’inquiète pour la sécurité informatique, c’est comme un dealer qui te prévient des risques de la drogue. JP Morgan dépense des milliards en cybersécurité, mais quand une nouvelle menace émerge, ils font les surpris. La technologie qui booste la productivité peut aussi poser des risques sérieux ? Sans blague. C’est le même discours depuis l’arrivée d’Internet. Mais là, avec l’IA, c’est plus rapide, plus automatisé, et potentiellement plus dangereux. Sauf que Dimon, comme les autres, oublie de mentionner ce que personne ne dit : qui développe ces outils, et avec quelle éthique ?
Parce que c’est là que ça devient drôle. Anthropic, la boîte derrière Mythos, est celle qui publie des essais de 20 000 mots sur les risques existentiels de l’IA. Dario Amodei, leur patron, passe son temps à prêcher la sécurité et l’alignement. Et en même temps, ils sortent un modèle capable de pirater des réseaux. C’est du safety-washing à son paroxysme. Tu publies une étude qui montre à quel point ton IA est dangereuse, et tu espères que ça te donne une aura de transparence. « Regardez, on est les gentils, on vous prévient. » Sauf qu’en réalité, tu viens de donner une recette de hacking à tous les acteurs malveillants. L’AI Safety Institute a fait son boulot, mais Anthropic, en fournissant le modèle, joue à un jeu dangereux.
Et ne crois pas que c’est réservé à Anthropic. OpenAI, Google, Meta, tous développent des capacités similaires. La différence, c’est qu’Anthropic a le culot de le faire sous couvert de recherche sur la sécurité. C’est le dealer qui vend de la came et publie en même temps une étude sur les overdoses. Bravo pour l’honnêteté intellectuelle.
Revenons à l’étude. Elle montre que Mythos peut mener une attaque « end-to-end ». Ça veut dire que l’IA ne se contente pas de trouver une faille ; elle orchestre toute l’opération. C’est une avancée technique, oui. Mais est-ce une surprise ? Non. Les modèles d’IA sont de plus en plus bons en raisonnement, en planification, et en exécution de tâches complexes. Les appliquer au hacking était une évidence. Ce qui est intéressant, c’est que l’AI Safety Institute a réussi à le démontrer de manière concrète. Ça devrait servir de wake-up call aux entreprises qui pensent que leur sécurité est suffisante. Elles se trompent probablement.
Mais au-delà de la peur, il y a une question plus importante : comment on régule ça ? Les gouvernements sont à la ramasse. Les entreprises tech avancent à toute vitesse, et les régulateurs courent derrière avec un filet à papillon. L’étude britannique est un pas dans la bonne direction, mais il faut des cadres stricts, pas juste des avertissements. Et surtout, il faut arrêter de faire confiance aux boîtes qui jouent sur les deux tableaux : promouvoir la sécurité tout en développant des armes potentielles.
En conclusion, Jamie Dimon a raison de s’inquiéter, mais il ferait mieux de regarder vers les fournisseurs de ces technologies plutôt que de juste pointer les vulnérabilités. Anthropic publie une étude choc pour se donner une image responsable, mais au fond, ils participent à la même course aux armements que tout le monde. La prochaine étape ? Probablement un modèle encore plus puissant, avec encore plus de capacités offensives, et encore un papier académique pour justifier le tout. Le cycle est bien huilé.
Et toi, tu penses quoi ? On devrait interdire ces recherches, ou au contraire les accélérer pour mieux se défendre ? Parce que pour l’instant, on dirait bien qu’on court droit dans le mur, les yeux ouverts.
Sources :
Comments are closed