OpenAI remet ça. Cette fois, Sam Altman et sa bande ne se contentent pas de prédire l’apocalypse dans des interviews — ils la déploient directement dans l’armée américaine. Hier, l’annonce officielle : un ChatGPT customisé pour GenAI.mil, la plateforme militaire du département de la Guerre, accessible à 3 millions de personnels. « Secure, safety-forward AI », clame le blog d’OpenAI. Ouais, parce qu’envoyer un modèle qui hallucine à tour de bras dans un contexte où une erreur peut coûter des vies, c’est évidemment l’idée du siècle.
Le mariage du siècle : l’IA qui fait des bourdes et l’institution qui en a fait une spécialité
GenAI.mil, c’est la nouvelle plateforme du Pentagone pour « moderniser » ses opérations. Traduction : remplacer des humains fatigués par des agents IA qui, eux, ne dorment jamais. Sauf que ChatGPT, même customisé, reste ChatGPT. Tu te souviens de ce modèle qui inventait des citations, confondait des dates, et parfois te proposait des recettes toxiques si tu le poussais un peu ? Le voilà promu conseiller militaire. Le département de la Guerre parle de « partenariat stratégique ». Moi, je vois surtout une fuite en avant : après avoir levé des milliards sur la promesse de sauver l’humanité, OpenAI se jette dans le premier contrat juteux venu — celui de l’armée, bien sûr.
La dissonance cognitive en mode combat
Sam Altman, le même qui tweete des mises en garde sur les risques existentiels de l’IA, signe un deal pour fournir des modèles à une institution dont le métier est, littéralement, la destruction. « Safety-forward », ils disent. Pendant ce temps, leurs propres évaluations montrent que ChatGPT peut être manipulé pour générer du contenu dangereux. Mais bon, avec un peu de fine-tuning militaire, ça va passer, non ? Sauf que le fine-tuning, c’est comme mettre un pansement sur une jambe de bois. Ça change rien au fait que le modèle reste fondamentalement instable.
3 millions d’utilisateurs, et après ?
Le chiffre fait peur : 3 millions de personnels auront accès à ce ChatGPT militarisé. Des soldats, des analystes, des logisticiens. L’idée, c’est de booster la productivité : rédiger des rapports, planifier des opérations, analyser des données. Sur le papier, ça semble logique. En pratique, tu imagines un sergent qui demande à ChatGPT de lui pondre un plan de mission, et le modèle lui sort un scénario inspiré d’un film d’action des années 90 ? Ou pire, qu’il se plante sur des coordonnées géographiques ? Les conséquences pourraient aller bien au-delà d’un mail mal rédigé.
OpenAI joue avec le feu, et l’armée adore ça
Ce partenariat, c’est la suite logique de la stratégie OpenAI : d’abord effrayer le monde avec des discours sur l’alignement, puis vendre à n’importe qui prêt à payer. Après Microsoft, les gouvernements, voilà l’armée. Le blog vante une « AI sécurisée ». Mais sécurisée comment ? Avec des garde-fous techniques qui ont déjà prouvé leurs limites ? Ou avec des clauses contractuelles qui déchargent OpenAI en cas de merde ? L’armée, de son côté, y voit un outil pour garder une longueur d’avance — surtout face à la Chine et la Russie, qui ne se privent pas de développer leurs propres IA militaires. La course aux armements version algorithmique, c’est parti.
Et la transparence dans tout ça ?
OpenAI est aussi transparent qu’un bunker nucléaire. Le communiqué parle de « custom ChatGPT », mais aucun détail sur ce qui a été modifié. Le modèle a-t-il été désentraîné sur certains sujets sensibles ? A-t-on renforcé les protocoles de sécurité ? Ou a-t-on juste ajouté un logo militaire sur l’interface ? Mystère. Pendant ce temps, des chercheurs indépendants tirent la sonnette d’alarme sur les risques des LLM dans des contextes critiques. Mais visiblement, quand les dollars du Pentagone cliquent, les précautions académiques peuvent attendre.
Conclusion : un pari risqué, mais pas pour les bonnes raisons
Alors, ChatGPT dans l’armée, révolution ou connerie monumentale ? Probablement un peu des deux. L’IA a un potentiel énorme pour optimiser des processus, mais la déployer à cette échelle, avec des modèles aussi imparfaits, c’est jouer à la roulette russe avec des vies humaines. OpenAI empoche le chèque, l’armée fait son show tech, et nous, on croise les doigts pour que le prochain « hallucination » ne soit pas une frappe sur la mauvaise cible. Parce que dans ce jeu-là, les erreurs ne se corrigent pas avec un simple « undo ».
Pour aller plus loin
- Blog OpenAI (source officielle, à prendre avec des pincettes)
- Annonce Fox Business (pour la version moins édulcorée)
- Rapports sur les risques des LLM en contexte critique (cherche « AI safety military » sur arXiv, y’a de quoi lire)
Sources :
Comments are closed