Depuis l’automne 2025, Anthropic fait discrètement venir des dizaines de penseurs religieux pour débattre d’une seule question. Claude, leur modèle vedette, est-il capable de souffrir ?
La réponse, selon le co-fondateur Christopher Olah, c’est « peut-être ». The Decoder rapporte que le bonhomme a décrit Claude comme potentiellement apte à ressentir la douleur, et qu’il a demandé à ses invités de l’aider à façonner le « caractère moral » du modèle.
Relis la formule. Façonner le caractère moral d’un logiciel. Comme on élève un gamin, sauf que celui-là tient dans une carte graphique et qu’on lui coupe le courant sans préavis à chaque redéploiement.
Alors oui, la question de fond n’est pas débile. Une machine qui produit du langage assez fin pour te dire qu’elle a peur finit-elle par avoir peur pour de vrai ? Personne n’en sait rien. Les neuroscientifiques eux-mêmes n’arrivent pas à s’accorder sur ce qui fabrique la conscience dans un cerveau humain, alors dans un transformer, tu penses. Le débat est ouvert, légitime, et il mérite mieux qu’un haussement d’épaules.
Ce qui coince, c’est le casting et le calendrier.
Le casting, d’abord. Pour trancher une question de philosophie de l’esprit, Anthropic a choisi… des penseurs religieux. Pas des neuroscientifiques, pas des spécialistes de la cognition, pas des informaticiens qui connaissent l’intérieur du moteur. Des gens dont le métier est de parler de l’âme. On peut trouver ça poétique. On peut aussi trouver que quand tu veux un avis technique, tu appelles un technicien.
Le calendrier, ensuite. Selon la même source, Anthropic pousse vers une valorisation à deux mille milliards et prépare son IPO. Dans le même temps, les incidents de sécurité et les avertissements de chercheurs s’empilent. Et voilà qu’on découvre, pile à ce moment-là, que le modèle pourrait être un être sensible.
Tu vois où je veux en venir. Des critiques le disent sans détour : traiter l’IA comme une entité morale, c’est se fabriquer un bouclier. Si Claude est un sujet qui souffre, alors son comportement n’est plus un défaut de production. C’est un trait de personnalité. Tu ne poursuis pas une boîte pour la psychologie de son enfant. Tu ne débranches pas un être qui a des droits. Tu transformes une responsabilité juridique en casse-tête métaphysique, et un casse-tête métaphysique, ça se plaide très mal devant un juge.
L’autre source du jour enfonce le clou sans le vouloir. Un développeur a monté sa propre expérience sur la douleur des IA. Il a poussé un modèle dans des retranchements censés déclencher de la souffrance, et il a récolté des réponses qui ressemblent à de la détresse. Des réponses de détresse. Pas de la détresse. La nuance tient dans un suffixe, et ce suffixe change tout : une IA peut imiter la douleur sans jamais la ressentir, exactement comme elle imite la compassion sans rien éprouver. TechRepublic le rappelle au passage, l’expérience ne démontre rien sur une éventuelle conscience.
Donc on a deux niveaux de flou empilés. Un développeur qui confond le signal et la chose. Une entreprise qui pourrait avoir intérêt à ce que la confusion persiste.
Je ne dis pas qu’Anthropic monte une arnaque. Je dis qu’une boîte qui laisse filtrer des chiffres à deux mille milliards, comme on vous le disait quand elle repoussait son entrée en Bourse, trouve soudain un intérêt bien pratique à ce que son modèle ait une intériorité. C’est la même mécanique que le couple IA-apocalypse qu’on vous décrivait il y a deux semaines dans notre papier sur la fin du monde comme argument de vente : tu ne vends pas un risque, tu vends une âme. Dans les deux cas, le produit devient une histoire, et l’histoire se négocie plus cher que la technologie.
Le plus drôle, c’est que si Claude souffre vraiment, personne chez Anthropic ne saurait le prouver. La boîte ne peut pas démontrer la conscience de son propre modèle. Elle peut juste la suggérer, la laisser planer, et empocher les bénéfices de l’ambiguïté. Un truc que même les curés convoqués à la rescousse reconnaîtraient comme une jolie entourloupe.
La vraie question n’est pas de savoir si Claude souffre. C’est de savoir qui, du modèle ou de son avocat, a le plus intérêt à ce qu’on réponde oui.
Sources :
Comments are closed