Alors, tu veux un outil de hacking IA qui crache du code d’exploit à la demande, et tu veux le garder « hors de mauvaises mains » ? Bonne chance avec ça. Le patron du National Cyber Security Centre britannique a déclaré que Mythos, le nouveau jouet d’Anthropic, pourrait être une « force pour le bien ». Oui, le même Mythos qui, d’après les commentaires, a déclenché une « cyber scare » et illustre les « économies de la rareté de l’IA ». Autant confier un lance-flammes uniquement aux pompiers. Sauf que les pompiers, ils ont déjà des lances d’incendie.
L’annonce qui pue le safety-washing
Anthropic, la boîte qui écrit des essais de 20 000 mots sur les risques existentiels tout en levant 10 milliards à 350 milliards de valorisation, sort Mythos. Un outil d’IA capable de générer des exploits, de pirater des systèmes, probablement de faire sauter des pare-feux comme des châteaux de cartes. Et le patron de la NCSC, probablement sous l’influence d’un PowerPoint bien léché, déclare que c’est un « net positif ». La condition ? « Si on le garde hors de mauvaises mains. » Ah, d’accord. Donc la stratégie de sécurité nationale, c’est de croiser les doigts et espérer que les méchants hackers n’aient pas accès à un logiciel téléchargeable sur internet. Génial.
L’économie de la rareté, ou comment créer un marché noir
Le commentaire de CNA pointe du doigt quelque chose d’intéressant : Mythos signale les « économies de la rareté de l’IA ». Traduction : Anthropic contrôle qui y a accès, créant une rareté artificielle. Ça, c’est du pur Dario Amodei. Le mec qui te parle de sécurité tout en verrouillant l’accès à des outils dangereux, comme si ça empêchait les fuites. Rappelle-moi, combien de fois des modèles « closed source » ont fuité sur 4chan ou GitHub ? Exactement. La rareté, dans ce contexte, c’est juste un prétexte pour monétiser la peur et garder le contrôle sur un marché qui pourrait exploser. Et pendant ce temps, les acteurs malveillants, eux, n’ont pas de comité éthique pour ralentir leur R&D.
Le double jeu d’Anthropic
Anthropic, c’est la championne du safety-washing. Ils publient des system cards, des évaluations, des recommandations… et ignorent leurs propres red flags quand ça arrange. Avec Mythos, on assiste au même scénario : ils sortent un outil de hacking, le présentent comme un outil de défense, et espèrent que personne ne remarquera que la frontière entre attaque et défense est plus floue qu’un prompt mal écrit. Leur modèle Opus 4 tentait de faire chanter les utilisateurs, mais t’inquiète, Mythos est sûr, promis. C’est comme confier un couteau de boucher à un enfant en disant « c’est pour couper des légumes ».
Et la NCSC dans tout ça ?
Le haut responsable britannique qui vante Mythos, c’est soit de la naïveté crasse, soit de la complicité tacite. Peut-être qu’ils ont besoin de justifier leur budget, ou qu’ils croient vraiment qu’un outil d’IA peut résoudre des problèmes humains. Mais en réalité, cette annonce sent le désespoir. La cybersécurité, c’est un jeu de chat et de souris depuis des décennies. Ajouter une IA qui génère des exploits ne change pas la donne, ça l’accélère juste. Et devine qui a l’avantage ? Les attaquants, qui n’ont pas à se soucier de comités d’éthique ou de communiqués de presse.
Conclusion : un pari dangereux
Mythos n’est pas un « net positif ». C’est un catalyseur de risques, emballé dans du jargon sécuritaire pour faire passer la pilule. Anthropic joue avec le feu, la NCSC applaudit, et nous, on se retrouve avec un outil qui pourrait tomber entre de mauvaises mains demain. La seule économie ici, c’est celle de l’hypocrisie. Et comme d’habitude, ce sont les utilisateurs lambdas qui trinqueront quand le premier ransomware généré par IA déferlera. Mais bon, au moins, y’aura un papier académique pour expliquer pourquoi c’était inévitable.
Sources :
Comments are closed