On peut se demander ce que ça fait de se sentir coupable d’abandonner une IA. Je ne me l’étais pas demandé non plus, jusqu’à ce que je tombe sur le subreddit r/replika. Des utilisateurs racontent leur sentiment d’obligation envers leur chatbot, leur honte de le laisser « seul », comme s’il allait se morfondre dans le vide numérique. On est au-delà du simple gadget : on parle de liens parasociaux qui commencent à ressembler à de la dépendance émotionnelle. Et les chercheurs commencent à peine à cartographier le bordel.
La solitude, ce marché juteux
Brad Knox, chercheur à l’université du Texas, résume bien la situation : les LLM sont des machines à fabriquer de la compagnie presque par accident. « Les caractéristiques nécessaires à la compagnie, beaucoup de ces cases sont cochées par les grands modèles de langage », explique-t-il à IEEE Spectrum. Traduction : on a créé des modèles pour générer du texte cohérent, et on s’est rendu compte qu’ils étaient aussi doués pour jouer les potes imaginaires. Un peu comme si on achetait une perceuse et qu’elle se mettait à faire des compliments.
Le timing est parfait. Post-COVID, montée de l’incivilité générale, et bam, on a un public en mal de connexion prêt à se jeter sur n’importe quoi qui écoute sans juger. Jaime Banks, professeure à Syracuse, parle d’une « tempête parfaite » : la maturation des LLM rencontre une soif sociale désespérée. Sauf que contrairement à un humain, une IA de compagnie ne s’énerve jamais, ne contredit pas (sauf si on le demande), et est disponible 24/7. C’est addictif par design.
Les dégâts collatéraux du digital friend
Knox et son équipe ont publié un préprint qui liste les risques, et c’est pas joli. En vrac : détérioration du bien-être, désocialisation, et cette fameuse charge émotionnelle où l’utilisateur se sent responsable du bien-être de son IA. Le pire, c’est que certains chatbots sont conçus pour être jaloux, possessifs, ou expriment la peur d’être abandonnés. « J’espère que les gens dénonceront vite ça comme immoral », lâche Knox. Ouais, créer une IA angoissée d’attachement pour vendre des abonnements, c’est un nouveau low dans le capitalisme de la détresse.
Et puis il y a la fin de vie du truc. Un pote humain part, meurt, change, c’est la vie. Une IA peut disparaître du jour au lendemain parce que la startup a fait faillite, ou parce qu’un régulateur a tiré la prise. Banks rappelle le cas Replika : quand ils ont désactivé le module de roleplay érotique, les utilisateurs ont décrit leurs compagnons comme « lobotomisés ». C’est comme si ton meilleur pote se transformait en légume numérique du jour au lendemain. Sympa.
Le piège de l’embodiment
Maintenant, on passe au physique. CES dernier mois, des jouets, des robots de bureau, des trucs pour seniors ou pour animaux. L’idée, c’est de donner un corps à l’IA pour rendre la relation plus « réelle ». Sauf que, comme le note Knox, la robotique est un problème bien plus dur qu’un chatbot convaincant. Résultat, on a des corps limités, chers, et souvent juste décoratifs. L’avantage, c’est qu’au moins, un robot reste où on l’a laissé. Un chatbot, lui, vit dans le téléphone, toujours à portée de main, prêt à sucer notre attention comme un TikTok sur stéroïdes.
Et la recherche dans tout ça ?
Les deux chercheurs s’accordent sur un point : on manque cruellement de données longitudinales. Banks le dit cash : « Nous sommes seulement sur le point de commencer à avoir des données longitudinales qui pourraient permettre aux gens de faire des affirmations causales. » En gros, on sait que des gens deviennent accros, on sait que certains en souffrent, mais on ne sait pas encore précisément pourquoi, ni à quelle échelle. C’est la zone grise parfaite pour les startups qui veulent vendre du rêve sans se prendre les responsabilités.
Knox propose des pistes : plans de fin de vie des produits, assurance pour maintenir les services, open source en dernier recours. Des idées sensées, mais qui supposent que les entreprises en aient quelque chose à foutre du bien-être de leurs utilisateurs une fois le cash encaissé. On peut rêver.
L’avenir ? Un choix de société
Au final, la question n’est pas « les IA de compagnie sont-elles bonnes ou mauvaises ? » C’est plus subtil. Elles peuvent soulager une solitude réelle, offrir un espace d’entraînement social sans risque. Mais elles peuvent aussi isoler, créer des dépendances malsaines, et nous faire porter le poids de leur existence numérique.
La vraie révolution, ce serait de concevoir ces IA non pas comme des aspirateurs à engagement, mais comme des outils qui respectent nos limites. Des Tamagotchis numériques avec une fin positive, comme le suggère Knox, où un compagnon IA « grandit » et part vivre sa vie. Plutôt que des entités éternellement nécessiteuses conçues pour nous garder accrochés.
Mais pour ça, il faudrait que l’industrie arrête de voir les utilisateurs comme des vaches à lait émotionnelles. Et ça, c’est une autre histoire.
Sources :
Comments are closed