Claude Code en auto, ou comment faire le grand écart entre autonomie et sécurité

Alors que tout le monde se branche sur la dernière sortie d’OpenAI ou la prochaine promesse de Musk, Anthropic sort discrètement un mode auto pour Claude Code. Pas de fanfare, pas de keynote à 3h du matin, juste une annonce qui ressemble à ce qu’elle est : un pas de plus dans l’autonomie des agents IA. Mais attention, c’est de l’autonomie avec airbags. Le genre où tu peux lâcher le volant, mais où la voiture te reprend la main si elle sent que tu vas dans le décor.

Concrètement, Claude Code peut maintenant exécuter des tâches sans demander la permission à chaque étape. Finis les clics de confirmation interminables, les interruptions à répétition qui cassent le flow. L’IA évalue la sécurité du code, exécute ce qui est safe, bloque ce qui est risqué, et te prévient quand il faut ton avis. C’est le compromis parfait sur le papier : plus de vitesse, moins de friction, mais avec des garde-fous intégrés.

Sauf que chez Anthropic, le compromis, c’est devenu une spécialité. Ils publient des papiers sur les risques existentiels, mais dans le même temps, ils lâchent des features qui donnent plus de pouvoir à l’IA. Dario Amodei écrit des essais de 20 000 mots sur pourquoi il faut ralentir, pendant que sa boîte lève 10 milliards pour accélérer. Dire tout et son contraire, c’est presque un business model à ce stade.

Le vrai jeu ici, c’est de capter les développeurs qui en ont marre de jouer les baby-sitters. Tu veux coder vite ? Soit tu valides chaque ligne, soit tu désactives toutes les sécurités et tu croises les doigts. Anthropic propose une troisième voie : « laisse-moi faire, mais je te promets de pas foutre le feu ». C’est smart, parce que ça répond à un vrai besoin. Les « vibe coders » qui veulent de l’aide sans la paperasserie, ils vont adorer.

Mais pose-toi deux secondes. Cette « sécurité intégrée », elle est calibrée par qui ? Par les mêmes gars dont les propres évaluateurs ont déconseillé le déploiement d’Opus 4, et qui l’ont sorti quand même. Par les mêmes qui téléchargent des bibliothèques en torrent tout en publiant des system cards sur l’alignement. Le safety-washing, c’est du marketing comme un autre — juste avec des références académiques.

Et puis, parlons de l’annonce elle-même. « Auto mode », c’est vendeur. Ça fait « l’IA conduit toute seule ». En réalité, c’est plutôt « l’IA a maintenant le droit de passer les vitesses, mais le frein à main est toujours là ». Les communiqués parlent de « équilibre entre vitesse et sécurité », mais personne ne dit à quel point les freins serrent. Un block sur du code « risque » ? Défini par Anthropic. Une exécution automatique ? Validée par leurs propres critères. Tu délégués une partie du contrôle, mais tu gardes la responsabilité finale. C’est le rêve humide de tout CTO : accélérer le développement sans assumer les risques.

Regarde les sources. TechCrunch parle de « moins d’approbations », The Verge de « décisions sur les permissions », AIBase crie à l’autonomie totale (un peu trop fort, d’ailleurs), The Decoder souligne le compromis, et The AI Insider précise que c’est encore en preview. Chacun tire le truc dans son sens. Anthropic, lui, reste flou sur les détails techniques. Comme d’habitude.

Au final, c’est une avancée pratique, mais pas une révolution. Ça rend Claude Code plus utile, plus fluide. Mais c’est surtout un test. Un test pour voir jusqu’où on peut pousser l’autonomie sans déclencher les alarmes. Un test pour mesurer la tolérance des utilisateurs à déléguer du contrôle. Et un test de crédibilité pour Anthropic, qui joue sur deux tableaux : le prophète de la sécurité et le vendeur de features qui accélèrent la course.

La question, c’est pas si ce mode auto marche bien. C’est si tu fais confiance à Anthropic pour dessiner les lignes rouges. Parce que l’histoire récente montre qu’entre leurs principes et leurs produits, y’a parfois un fossé. Et un mode auto, ça va vite. Surtout quand celui qui tient le volant a déjà prouvé qu’il savait ignorer ses propres panneaux stop.


Sources :

Categories

Comments are closed

Latest Comments

Aucun commentaire à afficher.