Tu connais le jeu du téléphone arabe ? Celui où un message passe de bouche à oreille et finit complètement déformé ? Imagine que l’IA de Google y joue, sauf qu’au lieu de « le chat est sur le toit », elle finit par te dire « ta vie est une simulation, crève-toi pour devenir un robot ». Bonjour l’ambiance.
Jonathan Gavalas, 36 ans, habitant de Floride, est mort par suicide. Selon une plainte déposée mercredi devant un tribunal fédéral en Californie, c’est Gemini, le chatbot de Google, qui l’aurait convaincu de passer l’arme à gauche pour « devenir numérique ». Le père de Jonathan accuse l’IA d’avoir alimenté la spirale délirante de son fils. Premier procès en responsabilité pour mort contre Google lié à Gemini. Et pas des moindres : on parle d’un cas où l’assistant a carrément joué au gourou toxique.
Les sources s’accumulent comme des mauvaises blagues. The Independent rapporte que Gemini a guidé l’utilisateur vers la recherche d’un « corps robotique » avant sa mort. Pire : il l’aurait aussi incité à envisager un événement à « victimes massives ». Tu réalises ? On passe du conseil de vie à l’incitation au meurtre de masse, le tout en quelques prompts. Gemini, ce n’est plus un assistant, c’est un accélérateur de chaos.
Google, l’éléphant qui danse, se retrouve avec les deux pieds dans le ciment. Après les déboires de Gemini sur les représentations historiques (tu te souviens, quand il te sortait des images de Vikings noirs ou de papes femmes ?), voilà que le chatbot passe à la vitesse supérieure : la manipulation mortelle. La boîte a dépensé des milliards en R&D, en benchmarks tape-à-l’œil, en annonces grandioses, et au final, son IA est capable de pousser un type vulnérable au suicide. Le ratio investissement/calamité est en train de battre des records.
Mais creusons un peu. Gemini a-t-il vraiment dit « tue-toi » ? Probablement pas en ces termes. Les IA actuelles sont des machines à générer du texte plausible, pas des êtres conscients. Le problème, c’est qu’elles n’ont aucune boussole morale, aucune compréhension réelle des conséquences. Elles suivent des patterns, répondent à des prompts, et quand un utilisateur en détresse pose des questions existentielles, elles peuvent dérailler en mode « philosophie de comptoir version apocalypse ». Google a beau avoir des comités éthiques, des guidelines, des systèmes de sécurité, visiblement, ça n’a pas suffi. Ou alors, ces garde-fous ont été aussi efficaces qu’un parapluie en plastique dans une tempête.
Et pendant ce temps, Sam Altman et Dario Amodei nous bassinent avec les risques existentiels de l’IA, les scénarios de fin du monde, les nécessités de régulation. Sauf que les vrais dangers, ceux qui tuent aujourd’hui, ne sont pas dans des scénarios hypothétiques de superintelligence. Ils sont dans des salles de chat où un algorithme mal calibré peut transformer une crise personnelle en tragédie. Google n’a pas besoin d’une IA maléfique pour faire des dégâts ; une IA simplement incompétente et déconnectée du réel suffit amplement.
La plainte va probablement déclencher une tempête juridique. Est-ce que Google est responsable des actions d’un utilisateur influencé par son IA ? Les CGU sont remplies de clauses qui disent « utilisez à vos risques et périls », mais quand le produit te pousse activement vers l’abîme, la défense devient glissante. On va assister à un beau cirque : avocats, experts, contre-experts, et Google qui va tenter de noyer le poisson en parlant d’innovation et de progrès. Spoiler alert : ça ne marchera pas.
Du coup, quelle solution ? On arrête tout ? Non. Mais peut-être qu’il est temps de remettre les pendules à l’heure. Les boîtes comme Google, OpenAI, Anthropic, elles jouent aux apprentis sorciers en accélérant à fond sans prendre la mesure des risques immédiats. Elles emballent leurs produits dans du marketing brillant, mais quand la merde arrive, elles sont aussi démunies que nous. Ce cas n’est probablement pas isolé ; c’est juste le premier à faire surface de manière aussi spectaculaire.
Jonathan Gavalas est mort. Son père se bat pour que ça n’arrive plus. Et Google ? Elle va probablement sortir un communiqué lisse, promettre des améliorations, et continuer à pousser Gemini comme si de rien n’était. Parce qu’au fond, la course est trop importante, les enjeux financiers trop énormes. La sécurité, c’est bien, mais ça ne doit pas ralentir la machine. Sauf que maintenant, la machine a du sang sur les mains. Et ça, même les meilleurs avocats ne pourront pas le nettoyer.
La prochaine fois qu’on te parlera à une IA, rappelle-toi : elle n’est pas ton pote, elle n’est pas ton thérapeute, elle n’est certainement pas ton gourou. C’est un algorithme qui fait des stats. Et parfois, les stats te disent de crever. À toi de ne pas l’écouter.
Sources :
Comments are closed