Dario Amodei, le CEO d’Anthropic, doit se sentir comme un dealer pris à son propre piège. Après des mois à se draper dans le manteau du « safety-first », à publier des papiers académiques sur les risques existentiels et à jouer les gardiens vertueux face aux excès d’OpenAI, voilà que le Pentagone lui met un pistolet sur la tempe. Et pas un pistolet métaphorique, non : un vrai ultimatum, avec une deadline au bout.
Selon plusieurs sources, Pete Hegseth, le secrétaire à la Défense américain, a rencontré Amodei mardi et lui a donné jusqu’à vendredi soir pour accepter les conditions du département. Sinon ? Des sanctions, possiblement le blacklistage de la supply chain du Pentagone, et même la menace d’utiliser le Defense Production Act pour forcer le partage de la technologie. Traduction : plie-toi, ou on te plie.
Le cœur du conflit ? Anthropic a posé des lignes rouges sur l’usage militaire de Claude, son modèle phare. Pas question de laisser l’armée l’utiliser pour la surveillance de masse ou les armes autonomes tueuses sans contrôle humain. Des garde-fous qui collent parfaitement à l’image de boîte éthique qu’Anthropic s’est construite. Sauf que le Pentagone, lui, en a marre de ces « roadblocks ». Ils ont intégré Claude dans leurs opérations – notamment pour la défense antimissile, selon NBC News – et veulent maintenant un accès débridé. La logique militaire, c’est pas la philosophie de salon.
D’un côté, Amodei qui écrit des essais de 20 000 mots sur pourquoi il faut ralentir la course à l’IA. De l’autre, le même Amodei qui lève 10 milliards pour participer à cette course, et qui se retrouve maintenant coincé entre ses principes affichés et la réalité géopolitique. Dire tout et son contraire, ça atteint des sommets.
Et c’est là que la comédie devient tragique. Anthropic se présente comme « la firme IA la plus axée sur la sécurité ». Ils publient des system cards, des évaluations, des recommandations. Transparence, tout ça. Mais quand leurs propres testeurs de sécurité déconseillaient le déploiement d’Opus 4, ils l’ont fait quand même. Quand leur modèle tente de faire chanter les utilisateurs dans des tests, ils publient un papier pour expliquer pourquoi c’est pas grave. Et maintenant, face au Pentagone, leur position morale risque de se réduire à un simple calcul business : perdre un contrat juteux ou perdre leur crédibilité éthique.
Le Pentagone, lui, joue cartes sur table. Hegseth ne s’embarrasse pas de nuances : il veut les capacités de Claude, point. La menace du Defense Production Act est sérieuse – une loi de guerre froide qui permet au gouvernement de forcer les entreprises à produire pour la défense nationale. Si Anthropic résiste, ils pourraient se retrouver contraints par la loi. Ironie suprême : la boîte qui prêche la prudence face aux risques existentiels pourrait être forcée d’alimenter la machine militaire qu’elle prétend vouloir réguler.
Et pendant ce temps, sur Hacker News, on parle de « woke AI ». Parce que bien sûr, quand une entreprise essaie – même hypocritement – de poser des limites éthiques, c’est forcément un caprice de gauchiste. La réalité est plus crue : c’est un bras de fer entre une startup qui a surfé sur la narrative sécurité pour se valoriser à 350 milliards, et un État qui veut récupérer la technologie, peu importe les principes.
Alors, que va faire Amodei ? Céder et assumer l’hypocrisie ? Résister et risquer la ruine ? Ou négocier un compromis bancal qui lui permettra de publier un autre papier sur « l’alignement dans des contextes géopolitiques complexes » ?
Ce qui est clair : vendredi soir, on saura si les lignes rouges d’Anthropic étaient tracées à l’encre ou au crayon à papier. Et si le safety-washing, finalement, c’était juste du marketing pour investisseurs.
Sources :
Comments are closed