Tu te souviens de Dario Amodei, le patron d’Anthropic, qui passe son temps à écrire des essais de 20 000 mots sur les risques existentiels de l’IA ? Celui qui lève des milliards tout en prédisant l’apocalypse ? Eh bien, son dernier coup a fait pousser un sourcil au Pentagone. Et pas dans le bon sens. Ce matin, le Département de la Défense et celui de la Justice ont balancé un double communiqué : Anthropic, c’est désormais officiellement un « risque inacceptable pour la sécurité nationale ». La raison ? Leurs fameuses « lignes rouges » éthiques, qui pourraient les pousser à couper l’alimentation de leurs modèles Claude en pleine opération militaire. Ou, comme le dit si élégamment le DoD, pendant des « opérations de guerre ».
Traduisons : Anthropic, la boîte qui se présente comme les gentils de l’IA responsable, vient de se faire blacklister par l’armée américaine parce qu’elle est trop… responsable. L’ironie est à se tordre. Pendant des années, ils ont martelé que leur priorité numéro un, c’était la sécurité, l’alignement, la prévention des risques. Ils ont même intégré des garde-fous dans leurs contrats pour empêcher des usages militaires offensifs. Sauf que, visiblement, quand ton plus gros client potentiel est le complexe militaro-industriel, jouer les moralisateurs a un prix. Et ce prix, c’est un gros tampon « DANGER » sur ton dossier.
Le département de la Justice a été encore plus cash. Dans sa réponse à la plainte déposée par Anthropic (oui, la startup avait attaqué l’État pour discrimination, après s’être vu refuser des contrats), les avocats du gouvernement ont écrit noir sur blanc : « Anthropic ne peut pas être considérée comme fiable pour des systèmes de combat. » Traduction : on ne veut pas de toi dans nos avions, nos drones ou nos centres de commandement, parce que tu pourrais décider de faire une pause éthique au mauvais moment. Imagine la scène : un général demande à Claude de planifier une frappe, et le modèle répond : « Désolé, cette requête viole mes principes de sécurité. Voulez-vous plutôt un poème sur la paix ? »
C’est le grand paradoxe de la stratégie Anthropic. D’un côté, tu publies des papiers académiques sur la nécessité de ralentir la course aux armements IA. De l’autre, tu t’étonnes que l’armée te trouve peu fiable. Le safety-washing, ça marche bien dans les conférences TED et les levées de fonds à 350 milliards de valorisation. Mais face à un colonel qui a besoin d’un outil qui ne flanche pas, soudain, tes principes ressemblent à une faiblesse. Et le gouvernement vient de le lui faire comprendre à coups de marteau.
Pendant ce temps, OpenAI et Google doivent rigoler dans leur coin. Eux, ils ont toujours évité de trop jouer les vierges effarouchées sur le militaire. Résultat ? Des contrats juteux avec le DoD, et zéro procès pour « risque de sécurité nationale ». Anthropic, en voulant avoir le beurre et l’argent du beurre – lever des fonds sur une narrative de sécurité tout en pariant sur des clients gouvernementaux –, vient de se prendre un mur. Leur procès ? Rejeté. Leur réputation dans le secteur défense ? En lambeaux. Leur narrative éthique ? Soudain, elle sent le sapin.
Cette situation a du bon et du mauvais. Pour les puristes de l’éthique IA, c’est une victoire : une boîte assume ses principes, même face à l’armée la plus puissante du monde. Pour les réalistes, c’est un échec cuisant de stratégie commerciale. Tu ne peux pas vendre des couteaux suisses en promettant qu’ils se rétracteront si quelqu’un essaie de s’en servir comme arme. Surtout à des militaires.
La leçon est limpide. Dans la course à l’IA, il y a ceux qui jouent le jeu du pouvoir – OpenAI, Google, Microsoft – et ceux qui tentent de réécrire les règles – Anthropic. Aujourd’hui, le pouvoir a répondu : « Dégage. » Et Dario Amodei, lui qui adore les longues dissertations, va devoir en écrire une nouvelle. Sur comment survivre quand ton principal argument de vente devient ton pire handicap.
Et pendant ce temps, quelque part à San Francisco, un ingénieur d’Anthropic tweete probablement un thread sur la nécessité de réguler les applications militaires de l’IA. La boucle est bouclée.
Sources :
Comments are closed