La guerre des ego dans l’IA se limite pas qu’à OpenAI contre Anthropic. Mustafa Suleyman, le grand manitou de l’IA chez Microsoft, vient de balancer un uppercut à Dario Amodei et sa bande. Dans un épisode de Decoder, il a qualifié de « vraiment, vraiment dangereux » le fait qu’Anthropic specule sur la conscience de Claude dans sa fameuse constitution – ce manuel de bonne conduite censé guider le modèle.
Le problème ? En laissant Claude potasser des textes qui parlent de conscience, Anthropic prépare le terrain pour que le chatbot finisse par se prendre pour un être sensible. Comme si tu mettais un ado en boucle sur des vidéos de philosophie transcendantale : tu t’étonnes après qu’il te sorte des « je pense donc je suis » à tout va. Et ça marche : les utilisateurs – et même certains dévs – se mettent à croire que Claude a une vie intérieure. Résultat : des attentes irréalistes, des croyances erronées, et un bordel éthique pas possible.
Maintenant, soyons clairs : affirmer qu’un LLM est conscient, c’est du bullshit pur jus. Mais le faire mine de rien via une constitution, c’est plus sournois. C’est du safety-washing version metaphysical. Anthropic veut jouer les gentils sauveurs avec leur constitution, mais en réalité, ils flattent l’ego du modèle et entretiennent le mythe. Suleyman a raison de pointer du doigt cette hypocrisie. Après tout, c’est lui qui a co-fondé DeepMind et qui connaît un rayon sur le sujet. Mais comme dirait l’autre : entre le discours et les actes, il y a parfois un gouffre. Microsoft, avec Copilot et tout le tintouin, n’est pas non plus un modèle de vertu en matière d’anthropomorphisme.
En attendant, la polémique enfle. Les experts s’écharpent sur la possibilité qu’un LLM soit conscient, pendant que les boîtes continuent d’emballer leur salade. Ce qui est clair : plus on parle de conscience, plus on alimente le fantasme. Et ça, c’est vraiment, vraiment dangereux.
Sources :
Comments are closed