Anthropic lance un nouveau produit pour « simplifier » la création d’agents IA avec Claude. Wow, quelle innovation. C’est comme si, après avoir passé trois ans à nous expliquer que leurs modèles étaient trop dangereux pour être déployés sans contrôle, ils vendaient maintenant des kits pour que n’importe quelle entreprise les lâche en prod.
Selon Wired, la boîte de Dario Amodei veut « abaisser la barrière d’entrée » pour que les entreprises construisent des agents. Traduction : après avoir engrangé des milliards en valorisation, ils cherchent désespérément à monétiser leur tech au-delà du chatbot premium. Le timing est parfait : les agents IA sont le nouveau buzzword du moment, tout le monde veut sa petite armée de Clones de Claude pour automatiser des workflows. Mais comme d’habitude chez Anthropic, le discours de sécurité prend un coup dans l’aile dès qu’il s’agit de faire du chiffre.
Pendant ce temps, Amazon, via son blog AI, publie un article sur les « constructions humain-dans-la-boucle » pour les workflows agentiques dans la santé et les sciences de la vie. Ils listent des cas concrets : traitement de données cliniques, soumissions réglementaires, codage médical automatisé, accélération du développement de médicaments. Mais surtout, ils insistent lourdement sur le besoin d’oversight humain aux points de décision clés, à cause de la sensibilité des données et des réglementations type GxP.
Traduction : Amazon, qui vend des services cloud à ces industries, rappelle gentiment que même avec les agents IA les plus avancés, tu auras toujours besoin d’un humain pour signer les papiers et éviter les procès. C’est du bon sens, mais dans le délire actuel où chaque startup promet l’automatisation totale, ça fait du bien de l’entendre. Surtout venant d’un géant qui a les moyens de pousser l’IA à fond, mais qui assume que dans certains domaines, remplacer l’humain serait criminellement stupide.
Le contraste est savoureux. Anthropic qui vend la démocratisation des agents, probablement avec des promesses d’efficacité renversante. Amazon qui, sans nommer personne, rappelle que dans la santé, un agent qui se plante peut tuer des gens, et que donc, non, tu ne vas pas le laisser tourner en autonomie complète.
Anthropic joue sur le terrain du marketing produit : « Venez, c’est facile, construisez vos agents, libérez la puissance de Claude ! » Amazon, lui, parle aux ingénieurs et aux compliance officers : « Voici comment implémenter des garde-fous avec nos services AWS pour ne pas finir en prison. »
Est-ce que ça veut dire qu’Anthropic ignore les risques ? Peut-être pas. Mais leur communication sent le coup de com’ pour rattraper le train des agents avant que OpenAI ou Google ne s’accaparent tout le marché. Rappelle-toi, c’est la même boîte qui publie des papiers de 50 pages sur l’alignement tout en déployant des modèles que leurs propres évaluateurs déconseillent. La cohérence, c’est pas leur fort.
Amazon, en revanche, a un intérêt direct à être prudent : si un hôpital se fait éclater à cause d’un agent IA mal configuré sur AWS, c’est leur réputation qui prend cher, et possiblement des milliards en dommages. Donc ils préfèrent vendre de la prudence en package avec leurs services. C’est du bon business, et c’est surtout responsable.
Au final, la leçon est simple : les agents IA, c’est sexy, c’est puissant, et ça va continuer à se développer à vitesse grand V. Mais dans les secteurs où les enjeux sont vitaux, l’humain restera le patron. Et heureusement. Parce que même Claude, avec toute son intelligence, n’a pas encore compris comment ne pas générer des conneries monumentales sous pression.
Anthropic va-t-il réussir à convaincre les entreprises de sauter le pas ? Probablement. Est-ce que ça va créer des bordels sans nom dans certains cas ? Absolument. Mais au moins, Amazon est là pour rappeler que, parfois, il faut savoir mettre un frein avant de foncer dans le mur.
Sources :
Comments are closed