Quand Google, le géant qui pèse 2 000 milliards de dollars, te donne des conseils de santé mentale, tu peux t’attendre à du solide. Du genre « si tu te sens déprimé, mange plus de légumes » ou « essaie la méditation ». Sauf qu’avec AI Overviews, leur système de résumés automatiques qui s’affiche au-dessus des résultats de recherche, on a carrément basculé dans le registre du « très dangereux ».
Le Guardian a sorti une enquête qui fait froid dans le dos. Rosie Weatherley, responsable du contenu informationnel chez Mind, la plus grosse association caritative de santé mentale en Angleterre et au pays de Galles, n’a pas mâché ses mots : « très dangereux », point barre. Les erreurs nuisibles sont présentées comme des faits incontestables. Imagine : tu cherches des infos sur la dépression, l’anxiété, des pensées suicidaires, et Google te balance une réponse générée par une IA qui invente des traitements ou minimise des symptômes. C’est comme demander son chemin à un GPS qui t’envoie volontairement dans un ravin.
Du coup, Mind lance une commission d’un an. Un an. Pendant ce temps, AI Overviews continue de tourner, exposant 2 milliards de personnes chaque mois à des conneries potentiellement mortelles. Le grand écart permanent, c’est un sport olympique dans ce secteur. D’un côté, on te parle de garde-fous, d’éthique, de responsabilité. De l’autre, on balance un produit à l’échelle planétaire sans avoir vérifié si ça pouvait tuer des gens.
Google, bien sûr, reste silencieux. Ou presque. Leur réponse habituelle : « Nous prenons cela au sérieux et travaillons à améliorer nos systèmes. » Traduction : on espère que l’orage va passer avant qu’on doive réellement changer quelque chose. Pendant ce temps, leurs ingénieurs sont probablement en train de tweaker un benchmark pour montrer qu’AI Overviews surpasse GPT-4 sur la détection des nuances émotionnelles. Un benchmark qu’ils auront créé eux-mêmes, évidemment.
Ce qui est fascinant, c’est le timing. Mind lance cette commission après une enquête journalistique. Pas après des plaintes internes, pas après des audits, pas après que leurs propres équipes aient sonné l’alarme. Non, après que le Guardian ait fait le boulot à leur place. Ça en dit long sur la réactivité proactive du secteur. On attend que la merde atteigne le ventilateur médiatique pour sortir les gants de nettoyage.
Et pendant ce temps, Sam Altman et Dario Amodei continuent de débattre des risques existentiels de l’IA superintelligente pendant que leurs modèles actuels donnent des conseils de santé mentale à la con. La priorité, c’est toujours la même : accélérer, déployer, scaler. La sécurité ? Un problème de second ordre, à régler une fois qu’on a capturé le marché.
Mind va donc passer un an à examiner les risques et les garde-fous nécessaires. Bon courage. Pendant ce temps, les algorithmes de Google continueront d’apprendre sur des données biaisées, de générer des hallucinations présentées comme des faits, et d’influencer la vie de millions de personnes vulnérables. Une commission, c’est bien. Mais ça ressemble furieusement à un pansement sur une jambe de bois.
La vraie question est : est-ce qu’on va attendre qu’un drame arrive pour que les régulateurs se réveillent ? Ou est-ce que Mind va vraiment pousser pour des changements concrets ? Parce que pour l’instant, on a l’impression que tout le monde joue à cache-cache avec la responsabilité. Google cache ses défauts, Mind cache son impuissance derrière une commission, et les utilisateurs, eux, prennent des risques sans le savoir.
Le comble ? C’est que Google pourrait régler le problème demain. Désactiver AI Overviews pour les requêtes liées à la santé mentale. Mettre en place des vérifications humaines. Ou, radical, admettre que certaines choses ne devraient pas être automatisées. Mais non. Parce que l’échelle prime sur la sécurité. Parce que les chiffres d’utilisation sont plus importants que la vie des gens.
Alors oui, Mind lance une enquête. C’est mieux que rien. Mais quand tu vois l’ampleur du problème et la lenteur de la réponse, tu te dis que ça sent le coup d’épée dans l’eau. En attendant, si tu cherches des infos sur ta santé mentale, évite Google. Va voir un professionnel. Ou au pire, lis un livre. Parce que les conseils d’une IA, c’est comme demander à un distributeur automatique de te soigner : ça finit généralement mal.
Sources :
Comments are closed