Des conseillers IA pour les frappes militaires. Voilà une ligne qu’on n’aurait pas imaginée il y a dix ans. Pourtant, selon une fuite du MIT Tech Review, c’est exactement ce que le Pentagone plancherait : utiliser des systèmes d’IA générative pour trier des listes de cibles potentielles et suggérer lesquelles frapper en premier. L’officier du Département de la Défense qui a lâché l’info précise bien que ces recommandations seraient « vérifiées par des humains ». Parce que bon, confier un missile à un bot qui hallucine, même l’armée américaine a ses limites.
Le timing est savoureux. Cette révélation tombe alors que le Pentagone est déjà sous le feu des critiques pour une frappe controversée. Et devine quoi ? The Independent rapporte que des parlementaires s’agitent, réclamant de la surveillance et des garde-fous. Leur inquiétude ? Que l’usage de l’IA dans le conflit avec l’Iran ne dérape. Comme si envoyer des recommandations de ciblage par un modèle entraîné sur Reddit et Wikipedia était une idée saine.
Alors, c’est quoi le vrai bordel ? L’armée américaine, comme tout le monde, est fascinée par l’IA. Elle voit dans ces chatbots un moyen de traiter des masses de données plus vite que n’importe quel analyste humain. Le problème, c’est que ces modèles sont des champions du bullshit. Ils inventent des faits, biaisent leurs réponses en fonction de leurs données d’entraînement (pleines de conneries humaines, rappelons-le), et ont une fâcheuse tendance à halluciner. Tu veux vraiment qu’un truc comme ça classe des cibles pour une frappe ?
Les parlementaires qui s’alarment ont raison de tirer la sonnette d’alarme. Mais soyons honnêtes : le Pentagone n’attendra pas leur bénédiction. Ils vont tester, itérer, et probablement déployer des prototypes dans des zones grises, comme d’habitude. La promesse de « vérification humaine » sonne bien, mais dans la pratique, quand un système te balance une liste priorisée avec une confiance de 98%, tu vas le remettre en question à chaque fois ? La pression opérationnelle, la fatigue, la confiance excessive dans la tech… tous les ingrédients sont là pour une belle connerie.
Et puis, il y a la question éthique. OpenAI, Anthropic et compagnie passent leur temps à geindre sur les risques existentiels de l’IA, mais quand le Pentagone vient frapper à la porte avec un chèque, ils ferment les yeux ? Dario Amodei écrit des essais sur l’alignement pendant que ses modèles pourraient finir en outils de ciblage. La dissonance cognitive, encore et toujours.
Au final, cette histoire ressemble à un classique du secteur : une technologie prometteuse, des applications flippantes, et des garde-fous en papier mâché. L’armée américaine va jouer avec le feu, les parlementaires vont râler, et dans cinq ans, on aura un scandale où une frappe aura été recommandée par un bot qui avait mal interprété un tweet. Rien de nouveau sous le soleil, juste l’IA qui ajoute une couche de complexité à un vieux problème.
La vraie question, c’est : à quel moment on arrête de faire confiance à des modèles qui racontent n’importe quoi pour nous aider à prendre des décisions qui changent des vies ? Parce que pour l’instant, la réponse semble être « jamais ».
Sources :
Comments are closed