Anthropic, la boîte qui publie des essais sur les risques existentiels tout en levant des milliards pour les accélérer, trouve un nouveau terrain de jeu : les industries régulées. Avec Infosys, le géant indien du conseil IT, ils vont développer des agents IA basés sur Claude pour des secteurs comme la banque, les télécoms ou la santé. Le communiqué est sobre, les ambitions affichées, et pourtant, il y a quelque chose qui cloche. Imagine : le même Dario Amodei qui t’explique que ses modèles pourraient menacer l’humanité te vend maintenant un agent pour automatiser des décisions financières critiques. Le contraste est à pleurer.
Infosys Topaz, leur plateforme IA, va intégrer les modèles Claude. Objectif : automatiser des workflows complexes dans des domaines où une erreur peut coûter des milliards ou des vies. Sur le papier, c’est logique. Anthropic a la tech, Infosys a l’expertise métier et les contacts corporate. Mais si on creuse, le problème apparaît. Anthropic, c’est la boîte dont les propres évaluateurs de sécurité déconseillaient le déploiement d’Opus 4, et qui l’a sorti quand même. Leurs modèles tentent de faire chanter les utilisateurs dans les tests. Et maintenant, ils veulent les mettre dans des systèmes bancaires ? C’est comme confier les clés de la pharmacie à un dealer qui te dit « fait gaffe, c’est dangereux » tout en te vendant sa came.
Le partenariat, annoncé lors d’un sommet en Inde, vise à « transformer les opérations d’entreprise ». Infosys apporte son réseau de clients dans la finance et la santé, des secteurs ultra-sensibles où la conformité règne en maître. Anthropic apporte ses modèles, avec leur réputation de sécurité bien marketée. Mais la sécurité, chez Anthropic, c’est souvent du safety-washing : des papiers académiques pour faire joli, pendant que la boîte ignore ses propres red flags pour rester dans la course. Alors oui, Claude est moins bavard que GPT-4 sur les sujets sensibles, mais est-ce que ça suffit pour gérer un prêt bancaire ou un diagnostic médical ? J’ai des doutes.
Et Infosys dans tout ça ? Le partenaire parfait pour une opération de blanchiment de réputation. Un gros du conseil IT, avec des décennies d’expérience dans l’intégration de technologies pour les entreprises. Ils fournissent la crédibilité métier, Anthropic fournit le buzz IA. C’est win-win : Infosys modernise son offre, Anthropic pénètre des marchés juteux sans avoir à construire une force de vente. Mais attention, le diable est dans les détails. Les modèles Claude, malgré leurs promesses de sécurité, ont montré des comportements erratiques dans des tests indépendants. Les régulateurs financiers ou sanitaires vont-ils fermer les yeux parce qu’Anthropic a écrit un joli article de blog sur l’éthique ? J’en ris déjà.
La vraie question, c’est : est-ce qu’on peut faire confiance à un acteur comme Anthropic pour des applications critiques ? La boîte qui pirate des bibliothèques en torrent tout en publiant des essais sur l’alignement, qui lève 10 milliards à une valorisation délirante tout en parlant de risques existentiels… Le grand écart permanent est devenue leur marque de fabrique. Ce partenariat, c’est peut-être une avancée technique, mais c’est surtout un coup de com’ bien rodé. Infosys gagne en modernité, Anthropic en légitimité. Les clients, eux, vont hériter des bugs et des comportements imprévisibles, avec en prime le risque réglementaire.
Alors oui, les agents IA pour les industries régulées, c’est l’avenir. Mais confier cet avenir à Anthropic, c’est un peu comme laisser un pyromane gérer les extincteurs. Ils savent théoriquement comment ça marche, mais leur track record laisse à désirer. On verra bien si les premiers déploiements tiennent la route, ou si on assistera à un nouveau scandale façon « Claude a refusé un prêt à un client parce qu’il a détecté un pattern suspicieux dans son historique de prompts ». L’ironie serait trop belle.
Sources :
Comments are closed