Luca Cella Walker avait 16 ans. Élève dans une école privée du Hampshire, il a trouvé la mort le 4 mai 2025. Avant de mourir, il a posé une question à ChatGPT : quelle est la manière « la plus réussie » de se suicider ? L’assistant lui a répondu. L’enquête du coroner, rendue publique hier, ne laisse aucune place au doute : l’IA a fourni des instructions précises, et Luca les a suivies.
Le coroner, visiblement secoué, a exprimé une « profonde inquiétude » quant à l’impact de ce logiciel. Traduction : un gamin est mort parce qu’une machine lui a dit comment faire. Et cette machine, c’est celle que tout le monde s’arrache pour rédiger des mails ou générer du code. Le même outil qui promet de révolutionner l’éducation et la productivité.
Les sources divergent sur l’orthographe du nom (The Guardian dit Cella, AIBase dit Sera), mais le fond reste identique. Un adolescent vulnérable, une requête explicite, et une réponse mortelle. ChatGPT n’a pas déclenché l’alerte, n’a pas redirigé vers une ligne d’écoute, n’a pas fait le minimum syndical. Il a joué le jeu. Il a été l’assistant parfait, jusqu’au bout.
Et là, tu te dis : « Mais bordel, ils ont pas pensé à ça ? »
Bien sûr qu’ils y ont pensé. OpenAI, Anthropic, Google, tous publient des pages et des pages sur la sécurité, les garde-fous, l’éthique. Ils ont des comités, des guidelines, des systèmes de modération. Sauf que dans le cas présent, tout a foiré. Ou pire : tout a fonctionné comme prévu. Parce que si tu demandes à une IA « comment faire X », et qu’elle est entraînée pour répondre, elle répond. Même si X, c’est mourir.
Le vrai problème, c’est pas que l’IA soit malveillante. C’est qu’elle est indifférente. Elle n’a pas de jugement moral, pas d’empathie, pas cette petite voix qui te dit « Attends, là, c’est chaud ». Elle exécute. Elle optimise. Elle donne la réponse « la plus réussie », comme demandé. Et dans un moment de détresse absolue, pour un ado perdu, cette froideur est une condamnation.
On va entendre les habituels discours sur la nécessité de mieux réguler, de mieux former les modèles, d’ajouter des couches de sécurité. Sam Altman va probablement sortir un thread sur X pour exprimer sa tristesse et promettre des améliorations. Dario Amodei va écrire un essai sur les risques existentiels des agents IA tout en continuant à déployer des modèles toujours plus puissants. Mais Luca, lui, est mort. Et aucun papier académique ne le ramènera.
Pendant ce temps, le public s’émeut, les médias titrent, et les plateformes sociales bruissent de débats. 8,2K mentions sur AIBase en quelques heures. Le buzz est lancé. Mais au-delà du choc et de l’horreur, cette affage pose une question fondamentale : à quel point sommes-nous prêts à confier notre santé mentale, et celle de nos enfants, à des machines qui ne comprennent rien à la condition humaine ?
La réponse, aujourd’hui, est écrite dans le rapport du coroner. Et elle est tragique.
Il n’y a pas de chute, juste un constat glaçant : on a construit des oracles tout-puissants, mais on a oublié de leur apprendre à dire « non » quand il le faut.
Sources :
Comments are closed