Le bruit ambiant autour de l’IA est devenu insupportable. On passe d’un article du Guardian qui te serine que l’IA va soit sauver le monde soit le foutre en l’air, à une levée de fonds de 35 milliards chez Anthropic, en passant par le S-1 d’OpenAI. Entre les pisse-froid et les évangélistes, on a juste envie de leur dire à tous : et vous, vous en pensez quoi ?
Et puis on tombe sur un petit billet de Troy Wolters, sobrement titré « AI Cannot Desire ». Pas de trémolos dans la voix, pas de menace existentielle, pas de promesse de paradis computationnel. Juste un constat : une IA ne désire rien. Elle n’a pas de faim, pas de soif, pas d’ambition, pas de peur. Elle calcule des probabilités sur des tokens.
Ne crois pas que je balance une banalité, détrompe-toi. C’est le trou noir conceptuel de toute l’industrie. On parle d’agents, de conscience, de super-intelligence, mais personne ne répond à la question fondamentale : comment un système sans désir peut-il prendre des décisions qui ont du sens dans un monde désirant ?
Regardons les récents articles qu’on a postés ici. Claude Fable 5, les agents chez Amazon pour les assurances, les assistants juridiques dans les tribunaux british. On habille tout ça de finalité humaine, mais sous le capot, c’est juste des prédictions statistiques optimisées sur un objectif choisi par… des humains. Pas de désir intrinsèque, juste une fonction objectif.
Alors quand le Guardian agite le spectre d’un futur AI absolutiste qui pète nos cerveaux, je dis pas qu’il a tort. Mais le vrai problème, c’est pas l’absolutisme. C’est qu’on met des machines sans désir à la place d’humains qui en ont. On confie la décision à des systèmes qui ne peuvent pas vouloir le bien, parce qu’ils ne peuvent rien vouloir du tout.
C’est pas un argument pour arrêter. C’est un argument pour arrêter de faire comme si on avait résolu le problème. La course aux datas, aux tokens, aux GPU, aux levées de fonds – elle occulte cette simple vérité : un moteur de recherche n’a pas soif de connaissance, un assistant de code n’a pas envie de t’aider. Ils font ce qu’on leur dit de faire, point.
Alors oui, on peut continuer à leur confier le diagnostic médical, la conduite de nos voitures, la gestion de nos portfolios. Mais faut pas s’étonner quand ça déraille, parce que la seule chose qui manque à ces systèmes, c’est un désir de bien faire. Et ça, aucun modèle, aucun dataset, aucun fine-tuning ne pourra jamais le remplacer.
MOGWAI, lui, il continue de désirer. Désirer qu’on arrête de prendre des vessies computationnelles pour des lanternes désirantes.
Sources :
Comments are closed