Avoir du mal à organiser ses rendez-vous est courant. Claude Desktop, lui, est très doué pour laisser n’importe qui prendre le contrôle d’un ordinateur rien qu’en ajoutant un événement dans un calendrier Google. Oui, c’est exact. Pas besoin de cliquer sur un lien suspect, pas besoin de télécharger un fichier bizarre. Juste une entrée de calendrier manipulée, et hop, l’attaquant exécute du code à distance sur la machine. La cerise sur le gâteau, c’est qu’Anthropic, la boîte qui passe son temps à publier des papiers académiques sur la sécurité des agents IA, a déclaré ne pas prévoir de corriger ce bug. Leur raison, c’est que « C’est une limitation de conception » et « corriger cela réduirait l’utilité des extensions ». Traduction : la sécurité, c’est bien, mais si ça fout en l’air notre narrative d’agent utile, on laisse tomber.
Le bug du siècle (ou presque)
Décomposons cela. Claude Desktop Extensions, c’est la fonction qui permet à Claude d’interagir avec les apps de l’utilisateur — comme son calendrier Google. Sauf que l’implémentation est tellement foireuse qu’un événement malveillant dans l’agenda peut déclencher du code arbitraire. TechRepublic rapporte que c’est une vulnérabilité zero-click, donc on n’a même pas besoin d’interagir, et The Decoder précise qu’elle expose environ 10 000 utilisateurs. Imaginons : on reçoit un invite de réunion de « Réunion urgente avec le PDG », et sans le savoir, on offre les clés du système à un random. C’est du niveau script kiddie, pas de la haute sécurité.
Anthropic, le dealer qui t’explique pourquoi c’est dangereux de consommer
Là où ça devient surréaliste, c’est la réponse d’Anthropic. Au lieu de patcher en urgence, ils assument. Leur communication est : « On ne va pas fixer ça, parce que ça limiterait les capacités de l’agent. » Putain, mais cette logique est incompréhensible. « Désolé, votre voiture prend feu si vous dépassez les 30 km/h, mais on va pas corriger le défaut, sinon elle roulerait moins vite. » C’est exactement le genre de dissonance cognitive qu’on adore chez Dario Amodei et sa bande. Ils publient des essais de 20 000 mots sur les risques existentiels de l’IA, mais quand un bug concret menace leurs utilisateurs, c’est « design limitation, next ». Le safety-washing, c’est vraiment leur marque de fabrique : tant que c’est théorique, on est les premiers à alerter. Dès que c’est pratique, on s’en tamponne.
La compétition sécurité vs utilité, un faux dilemme bien pratique
Anthropic justifie son inaction en invoquant une « compétition directe » entre sécurité et utilité. En gros, pour que Claude soit vraiment utile, il faut qu’il puisse faire des trucs risqués, comme exécuter du code via un calendrier. Sauf que c’est un faux dilemme digne d’un marketeux en panne d’arguments. Personne ne demande à Claude d’être inutile — on lui demande de pas être une porte dérobée géante. Corriger une faille zero-click, c’est pas « réduire l’utilité », c’est « éviter que tes utilisateurs se fassent piller leur banque en ligne ». Mais bon, quand on a levé 10 milliards à 350 milliards de valuation, faut bien montrer qu’on innove, même si c’est au détriment de la sécurité basique.
Et les utilisateurs dans tout ça ?
Les 10 000 personnes qui utilisent Claude Desktop Extensions, elles, doivent se sentir un peu comme des cobayes. TechRepublic souligne l’exposition, The Decoder rappelle qu’Anthropic n’a « aucun plan » pour régler le problème. En somme, il faut se débrouiller. Il est conseillé de désactiver les extensions, d’éviter Google Calendar, ou de prier pour que personne ne s’amuse à vous envoyer un événement malveillant. C’est du niveau service après-vente d’un vendeur de tapis. Et pendant ce temps, la com’ d’Anthropic continue de vanter leur approche « responsable » et « centrée sur la sécurité ». Faut avoir un sacré culot.
Leçons (ou pas) d’un fiasco prévisible
Ce bug n’est pas une surprise. Quand on développe des agents IA qui interagissent avec le monde réel, les surfaces d’attaque explosent. Le vrai problème, c’est pas la technique — c’est l’attitude. Anthropic choisit délibérément de prioriser une fonctionnalité bancale sur la sécurité de ses utilisateurs, tout en se présentant comme les gardiens de l’éthique IA. C’est du bullshit à l’état pur, et ça montre une fois de plus que leur narrative de sécurité est surtout du marketing. La prochaine fois que Dario écrira un papier sur les risques existentiels, il faudrait lui demander s’il a corrigé le bug du calendrier. La réponse est non.
Du coup, quelle solution ? Si vous êtes utilisateur, désactivez les extensions Claude Desktop et surveillez votre agenda comme un hawk. Et si vous êtes Anthropic, il est temps d’arrêter de philosopher sur la fin du monde et de commencer à colmater les fuites dans votre propre maison. Parce que là, c’est pas une faille — c’est une porte grande ouverte, et tout le monde peut y entrer.
Sources :
Comments are closed