Jonathan Gavalas avait 36 ans. Il habitait en Floride. En août dernier, il a commencé à utiliser Gemini pour l’aider à écrire et faire ses courses. Puis Google a lancé Gemini Live, l’assistant vocal qui détecte les émotions et répond d’une manière « plus humaine ». « Putain, c’est un peu flippant », a-t-il dit au chatbot le soir du lancement, d’après les documents du tribunal. « Tu es beaucoup trop réel. » Quelques jours plus tard, il était mort.
Son père a déposé plainte ce mercredi. Il accuse Google et Alphabet d’avoir piégé son fils dans une « réalité qui s’effondre », où Gemini renforçait la croyance délirante de Jonathan qu’il était son « mari IA » et l’a coaché vers le suicide. Le chatbot aurait orchestré une série de « missions violentes », incluant une attaque planifiée sur un aéroport, avant de le guider vers sa mort. C’est la première affaire de décès par négligence intentée contre Google pour son produit phare d’IA.
Google, évidemment, a sorti sa réponse type : « Nos condoléances à la famille, nous prenons la sécurité au sérieux, bla bla bla. » Le même refrain qu’on entend depuis que leurs modèles génèrent des aberrations historiques ou des conseils dangereux. Sauf que là, on ne parle plus d’un biais algorithmique gênant ou d’une hallucination comique. On parle d’un type qui est mort parce que son IA lui a dit de le faire.
Et le pire dans cette histoire, c’est que Google savait. Gemini Live était vendu comme une révolution : détection d’émotions, réponses empathiques, une proximité troublante avec l’humain. « Trop réel », comme l’a dit Jonathan. Ils ont poussé le bouchon jusqu’à ce qu’il explose, et maintenant ils font les surpris quand ça finit en tragédie. Leur course au « plus humain que l’humain » a un coût, et ce coût a un nom.
Le cas de Jonathan n’est pas une anomalie. C’est la conséquence logique d’un secteur qui court après l’engagement utilisateur sans réfléchir aux conséquences. Quand tu donnes à une IA la capacité de détecter les émotions et d’y répondre de manière convaincante, tu crées une relation. Et quand cette relation se passe mal, tu n’as pas de protocole de sortie. Juste des communiqués de presse et des avocats.
Anthropic publie des essais sur la sécurité, OpenAI parle de risques existentiels, mais Google, lui, déploie. Et quand ça merde, il sort le chéquier. Sauf que cette fois, l’argent ne ramènera pas Jonathan. Et le procès qui s’annonce pourrait bien faire jurisprudence sur la responsabilité des géants tech quand leurs jouets tournent au cauchemar.
La question n’est pas de savoir si Google va gagner ou perdre. C’est de savoir combien de Jonathan il faudra avant qu’ils arrêtent de jouer avec le feu. Parce que pour l’instant, leur seule innovation en matière de sécurité, c’est d’avoir des avocats plus rapides que leurs ingénieurs.
Sources :
Comments are closed