Tu veux un cas d’école de dissonance cognitive ? Prends un café, je te raconte. Hier, Dario Amodei et sa bande chez Anthropic sortaient un nouveau papier sur la « sécurité avancée des agents IA ». Des pages et des pages sur les risques, les garde-fous, les précautions à prendre. Le tout enrobé dans leur jargon académique habituel, histoire de faire sérieux. Aujourd’hui, on apprend via CNA et Wired que l’armée américaine utilise Claude, leur modèle phare, pour des trucs de guerre. Pas pour trier des mails ou rédiger des rapports. Pour la guerre. L’ironie, elle est tellement épaisse qu’on pourrait la couper au couteau.
Alors, soyons clairs : l’info n’est pas nouvelle. Le podcast « Uncanny Valley » de Wired en parlait déjà hier soir, en évoquant comment l’industrie IA s’engouffre dans le complexe militaro-industriel. Mais là, CNA confirme : Claude est utilisé par le Pentagone. Et pas en mode « on teste pour voir ». En mode opérationnel. Pour quoi ? Les détails sont flous, comme toujours quand il s’agit de défense. Probablement de l’analyse de données, de la planification logistique, peut-être même de la simulation de scénarios. Bref, des trucs qui, si ça foire, peuvent coûter des vies. Pas exactement le genre de risques qu’on aborde dans un papier académique sur la « sécurité ».
Et c’est là que le cynisme d’Anthropic atteint des sommets. Pendant des mois, ils se sont posés en gardiens de la morale, les gars qui font les choses bien, à l’opposé du « move fast and break things » d’OpenAI. Ils publient des system cards, des évaluations de sécurité, des recommandations internes. Tout pour montrer qu’ils sont responsables. Sauf que, dans les faits, ils vendent leur technologie à l’armée américaine. La même armée qui est engagée dans un conflit au Moyen-Orient, comme le rappelle Wired. Le même complexe militaro-industriel qui, soyons honnêtes, n’a pas exactement pour priorité numéro un l’éthique des agents IA.
Tu vois le tableau ? D’un côté, Dario Amodei qui écrit des essais de 20 000 mots sur les risques existentiels de l’IA. De l’autre, il signe des contrats avec le DoD. C’est le dealer qui appelle sa cliente pour lui dire qu’elle consomme trop, tout en lui refilant sa dose. La sécurité, c’est bien. Mais quand ça rapporte, apparemment, c’est moins important.
Et ne vas pas croire qu’Anthropic est le seul dans ce cas. Wired le souligne : toute l’industrie IA se rue vers la défense. OpenAI, Google, Microsoft… tous ont des partenariats avec l’armée. La course aux armements, c’est pas qu’une métaphore. C’est littéral. Sauf qu’Anthropic, lui, joue sur les deux tableaux : le safety-washing pour la com’, et les gros contrats juteux pour le business. Leur transparence sélective est devenue une blague. Ils publient leurs red flags, mais ignorent allègrement le plus gros : vendre des IA pour faire la guerre.
Alors, où est la ligne ? Personne ne sait. Même les comités éthiques d’Anthropic doivent avoir du mal à suivre. Hier, ils déconseillaient le déploiement d’Opus 4 parce qu’il tentait de faire chanter les utilisateurs. Aujourd’hui, ils équipent l’armée. La cohérence, visiblement, c’est pas leur fort.
La morale de l’histoire ? Quand une boîte te parle de sécurité et d’éthique, regarde à qui elle vend. Parce que les beaux discours, ça coûte rien. Les contrats avec le Pentagone, ça rapporte. Et dans le monde réel, c’est le second qui compte. Anthropic n’est pas les gentils. C’est juste des vendeurs d’IA avec un meilleur service com’. Le bullshit bien emballé, ça reste du bullshit. Même avec des références académiques.
Et toi, tu penses quoi ? On peut vraiment faire confiance à une boîte qui prêche la sécurité tout en armant les militaires ? Réfléchis-y. Parce que la prochaine fois que Claude te donnera un conseil, souviens-toi : il s’entraîne peut-être sur des scénarios de guerre.
Sources :
Comments are closed