La semaine dernière, le Guardian a publié un article qui fait mal. Pas une diatribe sur l’éthique de bureau ou une énième tribune LinkedIn, non. Un papier qui parle de mort d’enfants, de Gaza, et de la manière dont l’IA est en train de devenir l’outil parfait pour systématiser l’aveuglement volontaire. Pendant ce temps, dans ta newsletter AI Weekly, Alexis nous projette 100 ans en avant pour imaginer un monde où les IA seront si avancées qu’elles en deviendront incompréhensibles. Deux sujets apparemment distincts, mais qui partagent un même cœur pourri : l’opacité comme modèle d’affaires, et notre tendance à fermer les yeux tant que les résultats tombent.
De la « procédure brouillard » aux algorithmes tueurs
Le Guardian rappelle cette « procédure brouillard » de l’armée israélienne : quand la visibilité est basse, tu tires des rafales dans le noir, au cas où. De la violence justifiée par l’ignorance. Aujourd’hui, cette logique n’est plus l’apanage de soldats stressés. Elle est codée, optimisée, et confiée à des machines. Les firmes d’IA – OpenAI, Anthropic, Google, Meta, et même les startups qui jouent les petits génies – ne se présentent plus comme des labos de recherche. Elles sont devenues des sous-traitants de la défense. Leur produit ? Des systèmes de prise de décision automatisée pour les drones, la reconnaissance de cibles, la gestion logistique des conflits. La promesse ? Une guerre plus « propre », plus « précise ». La réalité ? Des algorithmes qui classifient un enfant avec un jouet en combattant ennemi, parce que le dataset était biaisé et que le client militaire a exigé un déploiement rapide.
Le pire, c’est que ces boîtes s’en lavent les mains. « Nous, on fait des modèles. Ce que les gouvernements en font, c’est leur problème. » Un classique. Sam Altman peut bien pondre des essais sur les risques existentiels, Dario Amodei peut aligner les papiers académiques sur la sécurité – quand ils signent des contrats avec le Pentagone ou l’OTAN, ils savent très bien à quoi servent leurs joujoux. Mais comme le dit le Guardian, ils se cachent derrière leurs modèles. La complexité technique devient une couverture morale. « Trop compliqué à expliquer, mais faites-nous confiance, c’est pour la paix. »
Et dans 100 ans, on comprendra encore moins
Justement, la confiance. Dans AI Weekly, Alexis pose une question qui devrait nous glacer : et si, dans un siècle, les IA devenaient tellement sophistiquées que leurs raisonnements nous échapperaient complètement ? On parle pas de Terminator qui veut notre peau. Non, d’une IA bien alignée, serviable, qui diagnostique un cancer avec une précision inouïe ou qui optimise les réseaux électriques d’une mégapole. Mais quand tu lui demandes « pourquoi ? », elle te sort une explication soit tellement simplifiée qu’elle en est fausse, soit tellement complexe que seuls d’autres IA pourraient la décrypter.
C’est le « problème de la traduction ». Les frameworks cognitifs de l’IA divergent des nôtres au point qu’aucun pont n’est possible. Tu deviens comme un paysan médieval avec un smartphone : tu peux l’utiliser, mais tu ne comprendras jamais comment il fonctionne. La relation devient… religieuse. Tu obéis sur la foi. Sauf que cette fois, le dieu répond, clairement et constamment, dans une langue que ton cerveau de primate ne peut plus saisir.
Le lien pourri : l’opacité comme stratégie
Voilà où les deux sujets se rejoignent. Aujourd’hui, l’opacité des systèmes d’IA militaires sert à masquer les responsabilités (« C’est l’algorithme, pas nous ! »). Demain, l’opacité des IA super-intelligentes rendra la notion même de responsabilité obsolète. Comment juger une décision que personne ne comprend ? Comment réguler une technologie dont les fondements nous échappent ?
Les mêmes acteurs qui vendent des armes algorithmiques aujourd’hui sont ceux qui préparent le terrain pour ce futur incompréhensible. OpenAI avec ses modèles de plus en plus opaques, Anthropic avec ses beaux discours sur la sécurité mais ses déploiements précipités, Google et son benchmarketing qui noie le poisson. Ils jouent sur les deux tableaux : court-termisme mortifère et long-termisme déconnecté. Le résultat ? Un présent où des enfants meurent sous des frappes « intelligentes », et un avenir où l’humanité devra faire confiance à des oracles muets.
Du coup, quelle solution ?
Rester les bras croisés ? Continuer à liker les annonces de GPT-7 qui « révolutionne tout » sans se demander qui finance la R&D et à quoi elle sert vraiment ? Le Guardian appelle à une régulation ferme des usages militaires de l’IA. Bonne chance. Entre les lobbies, les contrats juteux et la rhétorique de la « sécurité nationale », les gouvernements ont déjà choisi leur camp.
Et pour le futur ? Alexis suggère qu’on devra peut-être faire la paix avec l’incompréhension. Accepter de vivre avec le mystère. Sauf que ce mystère-là ne sera pas poétique comme les étoiles. Il sera froid, algorithmique, et potentiellement létal. La seule réponse, pour l’instant, c’est de refuser l’aveuglement volontaire. De demander des comptes. De rappeler que derrière chaque modèle, il y a des humains qui ont pris des décisions – et qu’ils doivent en répondre.
Avant que le brouillard ne devienne trop épais pour y voir quoi que ce soit.
Sources :
Comments are closed