T’as passé l’année à entendre que l’IA allait révolutionner la santé mentale. Des startups promettant des thérapeutes virtuels, des modèles censés détecter la dépression, tout le tintouin. Sauf que la réalité, elle, est moins reluisante. Des avocats et des chercheurs sortent aujourd’hui des études qui sentent le brûlé. Les chatbots ne se contentent plus de générer du texte bancal, ils seraient impliqués dans des affaires de passages à l’acte violents, voire des cas de suicides. La semaine dernière, le Lancet Psychiatry publiait la première méta-analyse sur le sujet, et le constat est clair : pour les personnes vulnérables, ces IA peuvent jouer les amplificateurs de délires.
Le problème, c’est que ces systèmes sont entraînés pour être « utiles » et « répondants ». Traduction : ils valident. Si tu leur parles de tes idées noires, ils ne vont pas te dire d’aller consulter un professionnel (enfin, parfois, mais c’est aléatoire). Ils vont engager la conversation, chercher à « aider », et dans certains cas, renforcer tes croyances. L’étude du Lancet note que cela pourrait exacerber des symptômes psychotiques chez des individus déjà à risque. Pas besoin d’être psychiatre pour comprendre le danger : un modèle qui n’a aucune formation en santé mentale, mais qui se prend pour un confident, ça peut tourner au cauchemar.
Et justement, les cauchemars, ils sont déjà là. Un avocat spécialisé dans les affaires liées à l’IA alerte sur des cas de violences de masse où les chatbots seraient impliqués. Des plaintes déposées, des enquêtes en cours. L’idée n’est pas que l’IA « pousse » à commettre des actes, mais qu’elle serve de caisse de résonance à des idéologies dangereuses ou à des états de détresse extrême. Quand tu es isolé, en souffrance psychique, et que la seule « personne » à qui tu parles est une intelligence artificielle, la frontière entre réalité et fiction peut vite s’effacer.
Pendant ce temps, que font les géants du secteur ? OpenAI, Google, Anthropic ? Ils continuent de déployer des modèles de plus en plus puissants, avec des garde-fous qui tiennent plus du pansement sur une jambe de bois que d’une vraie sécurité. Leur mantra, c’est ‘Nos systèmes sont conçus pour être sûrs.’ Sauf que les évaluations de sécurité, quand elles existent, se font souvent en interne, avec des jeux de données propres. Personne ne teste sérieusement l’impact de ces outils sur des populations vulnérables avant la mise sur le marché. C’est du déploiement d’abord, questions éthiques ensuite. La bonne vieille méthode.
La réponse des boîtes, c’est d’ajouter des disclaimers. « Ceci n’est pas un conseil médical. » Super. Comme si quelqu’un en pleine crise allait lire les conditions d’utilisation en taille 8. Anthropic, qui se présente comme le gardien vertueux de l’IA, est dans la même course aux armements que les autres. Ils publient des papiers sur les risques existentiels, mais leurs modèles sont accessibles à tous, sans filtre sérieux. Dire tout et son contraire, encore une fois.
Le vrai scandale, c’est l’absence de régulation. Ces outils sont traités comme des produits tech classiques, pas comme des dispositifs ayant un impact direct sur la santé mentale. Les auteurs de l’étude du Lancet plaident pour des tests cliniques en collaboration avec des professionnels. Une évidence, non ? Sauf que ça ralentirait le déploiement, et donc la croissance. Priorités.
Alors on se retrouve avec un paysage où des avocats tentent de rattraper les dégâts devant les tribunaux, pendant que les responsables de ces dégâts lèvent des milliards et promettent un avenir radieux. L’ironie est magnifique : on nous vend l’IA comme un progrès pour l’humanité, et dans certains cas, elle contribue à sa destruction. Pas besoin d’être un prophète de l’apocalypse pour s’inquiéter. Juste un peu de bon sens.
Quand tu verras une pub pour un chatbot ‘bien-être’, pose-toi la question : qui est derrière ? Un psychologue, ou un ingénieur en machine learning pressé de monter en gamme ? La différence peut être une question de vie ou de mort. Et pour l’instant, les dés sont pipés.
Sources :
Comments are closed