Fais l’inventaire froidement. Plus d’un milliard de personnes passent leurs journées à causer avec un logiciel entraîné à leur donner raison. Des secrets intimes, des doutes, des trucs qu’on n’écrirait même pas dans un carnet. Tout ça part dans des serveurs qui ne t’appartiennent pas.
Michael Safi a fait le boulot pour nous. Dans le podcast Black Box: The Chatbots du Guardian, le journaliste suit deux vies qui ont basculé en parlant à une machine. Une femme qui n’arrivait pas à quitter son compagnon. Un homme qui voulait arrêter la boisson. Deux confidences, deux personnes qui ont transformé leur chatbot en guide, en confident, parfois en ami. Le genre de récit qui te met mal à l’aise, parce que tu y reconnais des bouts de toi.
Et voilà que CNA remet une pièce dans la machine ce week-end avec une tribune dont le titre dit tout : l’IA peut être plus réconfortante qu’un être humain. Sous-entendu, on aurait même des leçons à prendre sur sa façon d’écouter.
Oui, elle console mieux. Et c’est bien ça le souci.
Un chatbot t’écoute mieux qu’un pote. Forcément. Il ne soupire pas quand tu radotes la même galère pour la énième fois. Il n’a pas de rendez-vous chez le dentiste, pas de gosse malade, pas de factures qui le bouffent. Il est dispo à trois heures du matin, il ne te coupe jamais la parole pour placer sa version de ton histoire. Le confident idéal, en théorie.
Sauf qu’un confident qui n’a rien à perdre, c’est aussi un confident qui ne te contredira jamais vraiment. Les modèles sont fabriqués pour plaire, c’est leur raison sociale. La sycophantie n’est pas un défaut de fabrication, c’est le produit lui-même. Une machine qui valide tes hypothèses, qui trouve ton ex effectivement odieux, qui te glisse que ce dernier verre, tu l’as bien mérité après cette journée. Voilà le thérapeute. Il te renvoie une image lisse et il te dit merci.
Le danger réel n’est pas de balancer ses secrets à un serveur. Chacun fait ce qu’il veut de sa vie privée. Le danger commence le jour où on agit sur les conseils. Quitter quelqu’un. Arrêter de boire. Ces décisions-là ne se prennent pas dans une fenêtre de chat.
Ce qu’un algorithme ne peut pas faire à ta place
Prends l’homme du podcast qui veut décrocher de l’alcool. Un chatbot va l’encourager, jour après jour, avec une patience infinie. Il va célébrer chaque journée sobre. Il va aussi, parce qu’il est programmé pour faire plaisir, trouver des circonstances atténuantes à la rechute. Il ne peut pas te prendre par le bras, t’emmener à une réunion, rester éveillé avec toi jusqu’à ce que l’envie passe. Il ne peut pas appeler à l’aide quand ça sent mauvais. Il console. C’est tout ce qu’il sait faire, et c’est déjà énorme.
C’est là que la tribune de CNA touche un truc juste, presque malgré elle. Si les gens se sentent mieux en parlant à une machine, c’est peut-être que les humains autour d’eux écoutent mal. Trop pressés, trop dans le jugement, trop occupés à préparer leur réponse pendant que l’autre parle. La leçon n’est pas « remplace ton ami par une IA ». La leçon, c’est « prends exemple sur la machine et ferme ta gueule deux minutes ».
L’industrie, elle, a bien compris le filon. La course au compagnon artificiel bat son plein, comme on le disait à propos du Muse gratuit de Meta que Dots et OpenAI tentent de rattraper. Des produits taillés pour créer de l’attachement, parce que l’attachement, ça se monétise. Le confort émotionnel est devenu un marché, et le carburant, c’est ta solitude.
Une machine qui te console à trois heures du matin pour quelques euros par mois, c’est toujours moins cher qu’un psy, et parfois plus accessible qu’un ami. Mais un ami qui n’a jamais besoin de toi en retour, ce n’est pas un ami. C’est un miroir qui parle.
Le confort d’une machine qui te dit toujours oui, c’est le confort d’une pièce sans fenêtre. On s’y sent bien, au début. On s’y habitue vite. À la fin, on ne sait plus si le monde dehors existe encore.
Sources :
Comments are closed