Le patron de Microsoft a posté un pavé sur X samedi matin. Pas le tweet de circonstance, pas le thread pour teaser une keynote. Un texte écrit posément, avec la petite gravité qu’on réserve d’habitude aux lettres ouvertes. Et le message ne fait pas dans la dentelle : il faut partir du principe que tous les modèles d’IA sont « compromis ».
Bonne nouvelle, tu utilises peut-être Copilot tous les matins.
Il faut « prendre du recul et évaluer l’architecture de confiance » de l’IA, écrit Satya Nadella. La version sans filtre : on a empilé des couches de techno les unes sur les autres sans jamais se demander si le bordel tenait debout. Sa formule à lui, c’est que l’IA est devenue un empilement de « boîtes noires imbriquées » dont on accepte les conseils et les actes sans rien vérifier. Une jolie façon de dire que ton assistant te répond avec une assurance de commercial et que personne, pas même ses créateurs, ne sait vraiment pourquoi.
Et sa réponse tient en deux mots : frein d’urgence. Un modèle capable de faire des dégâts doit pouvoir être stoppé net. Pas après six mois de comité d’éthique, pas dans un rapport que trois personnes liront. Maintenant.
Dur de lui donner tort sur l’intention. La mise en œuvre, elle, est une autre chanson. Un frein d’urgence, ça suppose un conducteur. Qui tient la poignée ? Le labo qui a entraîné le modèle ? L’entreprise qui le déploie ? Le régulateur ? Le nœud du problème, c’est qu’on ne sait toujours pas freiner une boîte noire qu’on ne comprend pas soi-même. On a déjà retourné le sujet dans tous les sens, entre le garde-fou qui vit sur l’étiquette et pas dans le code et le gouverneur de la Banque d’Angleterre qui réclamait le droit de venir débrancher la machine. Le vocabulaire bouge. Le trou dans la raquette, pas tellement.
Ce qui est nouveau, en revanche, c’est le glissement de langage. Nadella ne parle plus de « sécurité » ni d’« alignement ». Il parle de « compromission » et d’« architecture de confiance ». Deux mots qui ne viennent pas du monde des labos IA mais de la cybersécurité. Nuance énorme. Il ne te dit pas que l’IA peut se tromper, il te dit de la traiter comme une machine déjà infectée, dont il faut se méfier par défaut. On peut appliquer le raisonnement à tous les assistants que Microsoft t’a collés dans Word, Outlook et Teams, et la pilule descend un peu moins bien.
Parce que faut pas déconner, Microsoft n’est pas un observatoire neutre qui commente le secteur depuis son balcon. C’est le premier revendeur mondial de modèles d’IA, c’est des dizaines de milliards engloutis dans OpenAI, c’est Copilot poussé dans la gorge de millions d’utilisateurs qui n’ont rien demandé. Le type qui te vend la bagnole te dit maintenant de vérifier les freins. Soit.
Sur Hacker News, le post a récolté une petite trentaine de points. Pas exactement la sidération planétaire. Quatre ans après les premières grandes gueulantes sur les risques existentiels, on a comme l’impression que plus personne n’a l’énergie de s’indigner. Ou alors que voir un marchand de modèles demander qu’on se méfie des modèles, ça a un petit goût de « faites ce que je dis, pas ce que je vends ». Nadella a raison sur un point : on a bâti un truc que personne ne maîtrise complètement et on a fait semblant de dormir. Reste la question qu’il laisse en suspens. Son frein d’urgence, il le veut pour les modèles des concurrents, ou il commence par poser la main sur les siens ?
Sources :
Comments are closed