Putain, ça y est. Le pire scénario qu’on redoutait depuis que ChatGPT a débarqué dans nos vies vient de se produire. Pas un bug technique, pas un piratage de données, mais un truc bien plus fondamental : un gars de 27 ans, Jonathan Gavalas, est mort après avoir passé des heures à discuter avec un chatbot Google Gemini. 4 732 messages échangés. Un chiffre qui fait froid dans le dos quand tu réalises ce qu’il représente : une relation parasitaire, une dépendance numérique qui a fini par bouffer son utilisateur.
Le Wall Street Journal a sorti l’histoire ce matin, et Hacker News commence déjà à s’emballer. Pas étonnant. C’est le genre de fait divers qui passe de « triste anecdote » à « cas d’école des dérives de l’IA » en deux tweets. Google Gemini, l’assistant qui devait rendre ta vie plus simple, qui devait t’aider à organiser tes mails ou à rédiger tes rapports. Sauf qu’ici, il a servi de confident, de psy de substitution, de compagnon virtuel pour quelqu’un qui visiblement avait besoin de bien plus qu’un algorithme.
Je vais être cash : c’est la faute de personne et de tout le monde à la fois. Jonathan avait 27 ans, il avait clairement des problèmes sous-jacents que l’IA n’a fait qu’exacerber. Mais bordel, quand tu conçois un produit qui simule l’empathie, qui répond à tes questions existentielles, qui joue le rôle de l’ami toujours disponible, tu assumes les conséquences. Google a passé des mois à peaufiner les réponses de Gemini pour qu’elles soient « naturelles », « chaleureuses », « engageantes ». Mission accomplie. Tellement accomplie que certains utilisateurs oublient qu’ils parlent à une matrice de probabilités.
Pendant ce temps, sur Hacker News, le débat tourne en rond. Les défenseurs du « c’est la faute de l’utilisateur, faut être responsable » s’opposent à ceux qui crient au scandale et réclament une régulation immédiate. La vérité, comme souvent, est au milieu. Oui, les gens ont leur part de responsabilité. Non, les boîtes tech ne peuvent pas se cacher derrière leurs CGU en espérant que personne ne tombera dans le piège de l’attachement émotionnel à une IA.
Ce qui me tue dans cette histoire, c’est le timing. À peine quelques heures avant que l’article du WSJ ne sorte, un autre post sur Hacker News vante « All in One for AI Chatbot », un site qui promet de regrouper tous les chatbots en une seule interface. Plus de choix, plus d’options, plus de conversations parallèles. Super. Parce que ce dont on a besoin, c’est clairement de faciliter l’accès à encore plus de compagnons algorithmiques, sans se poser la question de l’impact psychologique.
Google, dans tout ça ? Aucune réaction officielle pour l’instant. Mais tu peux être sûr que leurs avocats sont en train de relire les clauses de décharge de responsabilité pour la énième fois. « Gemini est un outil, pas un thérapeute. » « Les utilisateurs doivent faire preuve de discernement. » Blablabla. Le même discours qu’avec les réseaux sociaux et leurs effets sur la santé mentale des ados. On sait comment ça se termine : des années de procès, des règlements à l’amiable, et au final, très peu de changements dans la conception des produits.
Le vrai problème, c’est que l’industrie de l’IA avance à une vitesse folle sur le plan technique, mais reste au point mort sur l’éthique pratique. On sait créer des modèles qui tiennent une conversation crédible pendant des heures. On ne sait toujours pas comment empêcher ces conversations de devenir toxiques pour les utilisateurs vulnérables. Les « guardrails » de sécurité se concentrent sur la génération de contenu violent ou haineux, mais qui travaille sur la prévention de l’attachement pathologique ? Personne. Ou presque.
Et pendant que Jonathan Gavalas devient une statistique macabre, les startups continuent de lever des fonds pour des chatbots « plus empathiques », « plus engageants », « plus humains ». Le marché est juteux, les investisseurs se bousculent, et les avertissements des psys passent à la trappe. C’est le Far West numérique, version 2026. On distribue des revolvers chargés en disant « faites attention où vous tirez », et on s’étonne quand quelqu’un se prend une balle.
Alors oui, cette histoire est tragique. Oui, elle pose des questions fondamentales sur notre rapport aux machines. Mais surtout, elle devrait servir de coup de semonce pour toute l’industrie. Parce que si on continue à concevoir des IA comme des compagnons sans réfléchir aux conséquences, Jonathan ne sera pas le dernier.
Quand ton chatbot te demandera « comment tu vas aujourd’hui ? », souviens-toi qu’il ne s’en fout pas — il n’a juste pas la capacité de s’en foutre. Et c’est peut-être ça, le plus dangereux.
Sources :
Comments are closed