Anthropic a décidé que les développeurs ne sont pas fiables. Pas en tant que codeurs, non. En tant que vigiles. À partir du 14 août, Claude Code passe en Auto Mode par défaut pour les plans Pro, Max et Team. Fini les allers-retours d’approbation à chaque commande. L’outil exécute, et un classifieur interne se charge de faire barrage.
Les chiffres donnent le vertige. Dans les tests d’Anthropic, le classifieur a attrapé 89 % des commandes dangereuses. Les validateurs humains, eux, n’en ont repéré que 13,6 %. Pose-toi deux secondes. 13,6 %. C’est le score des humains qui relisent les commandes générées par IA avant de valider. En clair, quand tu cliques sur « approuver » sans vraiment regarder, t’es un danger public. Et Anthropic l’a bien compris : plutôt que de te faire confiance, il fait confiance à un autre modèle.
L’information a été relayée par Simon Willison, observateur avisé de l’écosystème. La firme en avait parlé lors d’un échange au AI Engineer World’s Fair avec Cat Wu et Thariq Shihipar, où ils expliquaient comment ils utilisent Claude Code en interne. La réponse tient en un mot : Auto Mode.
Ce changement n’est pas anodin. Il signe la fin d’une époque où le développeur valide chaque action de son assistant. Désormais, le bouclier, c’est un classifieur. Le dev devient superviseur, un vigile qui regarde l’IA travailler, parfois sans comprendre ce qu’elle fabrique. Une tendance de fond qu’on observe partout : l’IA code, l’humain regarde.
La question qui fâche, c’est de savoir si ce classifieur résiste à la prompt injection. Parce que si un attaquant arrive à glisser une commande malveillante dans un fichier que Claude va lire, le classifieur doit être sacrément solide. Anthropic parie que oui. Et si ça casse, on aura un joli incident de sécurité à se mettre sous la dent.
En attendant, prépare-toi à mater ton terminal comme on mate une série, avec un mélange de fascination et d’inquiétude. Et si tu vois une commande louche passer, ne clique surtout pas sur « approuver ». Tu n’auras plus à cliquer. C’est ça, le progrès.
Sources :
Comments are closed