Dario Amodei a sorti sa meilleure voix de prof de philo ce jeudi. « Je ne peux en bonne conscience accéder à la demande du Pentagone. » La demande en question ? Lâcher les garde-fous de ses modèles Claude pour que l’armée américaine puisse s’en servir comme elle veut, y compris pour de la surveillance de masse et des armes létales autonomes. Tu sais, ces fameuses « killer robots » qui font frémir dans les films. Sauf que là, c’est pas un scénario, c’est un ultimatum signé Pete Hegseth, le secrétaire à la Défense : si Anthropic ne plie pas avant 17h ce vendredi, direction la liste noire des « risques pour la chaîne d’approvisionnement ». Adieu les 200 millions de dollars de contrat, et bonjour aux milliards potentiels qui filent ailleurs.
Le Pentagone joue au poker menteur avec une loi de la guerre de Corée pour forcer la main. Anthropic, elle, sort les grands mots : conscience, sécurité, limites éthiques. La dissonance est savoureuse. Une boîte a pioché allègrement dans des torrents pour entraîner ses modèles, et ses propres évaluateurs déconseillaient le déploiement. Pendant ce temps, le même CEO publie des essais de 20 000 mots sur les risques existentiels tout en levant 10 milliards pour accélérer la course. Le dealer qui appelle sa cliente pour lui dire qu’elle consomme trop, mais qui lui refile quand même sa dose. Sauf que cette fois, c’est l’armée la cliente, et la dose, c’est du code qui pourrait tuer sans supervision humaine.
Ce qui est marrant, c’est que cette posture a trouvé un écho inattendu. Des employés de Google, OpenAI, Amazon et Microsoft ont signé une lettre ouverte pour soutenir Anthropic et pousser leurs propres patrons à adopter des garde-fous solides et à refuser les contrats de défense trop permissifs. Comme si la tech se réveillait enfin de son coma éthique, juste au moment où les enjeux deviennent littéralement vitaux. Mais ne t’emballe pas trop vite : ces mêmes boîtes sont aussi en négociation avec le Pentagone pour des partenariats juteux. Le soutien, c’est bien, mais ça coûte rien sur Twitter.
Alex Bores, un élu de New York qui vise le Congrès, essaie de tracer une voie médiane dans un débat trop souvent réduit à « doomers versus boomers ». Sympa, mais quand le Pentagone brandit la loi et les menaces financières, les belles paroles ont la vie dure. D’autant que Hegseth n’a pas hésité à traiter Amodei de « menteur » avec un « complexe de Dieu ». La classe, hein ?
Reste à savoir si Anthropic tient bon par conviction ou par calcul. Après tout, se poser en gardien de l’éthique face au gros méchant Pentagone, ça fait une pub monstre. Et en cas de blacklist, les investisseurs qui ont mis 350 milliards de valorisation sur la table risquent de moins rigoler. Mais peu importe les motivations : le fait est qu’une ligne est tracée. Pour une fois, une boîte d’IA dit non à l’armée, et elle n’est pas seule. Même si c’est pour de mauvaises raisons, c’est un début.
Reste à voir si cette résistance tiendra après 17h. Parce que le Pentagone, lui, il a les poches profondes et une patience limitée. Et Dario Amodei, entre ses principes et ses actionnaires, va devoir choisir son camp. Ou inventer un troisième acte. À suivre, le chronomètre tourne.
Sources :
Comments are closed