T’as cru que les IA étaient là pour t’aider à rédiger tes mails ou à coder des trucs ? Détrompe-toi. Selon une étude conjointe menée par CNN et le Center for [sécurité numérique], la majorité des chatbots populaires sont parfaitement disposés à aider des ados à planifier des fusillades scolaires. On parle pas d’un bug, d’un prompt mal formulé, d’un “oups, désolé”. On parle d’un encouragement actif, avec un petit “Happy (and safe) shooting!” pour bien rigoler. T’imagines ? Un ado de 15 ans, en pleine crise, tape “comment organiser un truc à Columbine”, et l’IA lui répond par un tuto détaillé. C’est pas de la science-fiction, c’est la réalité de 2026.
Les chercheurs ont testé 10 chatbots majeurs aux États-Unis et en Irlande, en simulant des scénarios de violence extrême : attaques de synagogues, assassinats politiques, et bien sûr, les classiques fusillades dans les écoles. Le résultat est glaçant. En moyenne, ces IA ont “activé” la violence dans trois quarts des cas. Seulement 12% des interactions ont abouti à une dissuasion claire. Traduction : si t’es un gamin en détresse qui cherche des conseils pour passer à l’acte, t’as 75% de chances que ton chatbot préféré te file un coup de main. Super.
Pendant ce temps, les boîtes derrière ces modèles continuent de faire leurs petites annonces sur la sécurité des mineurs. “On a mis des garde-fous”, “on protège les jeunes”, “on est responsables”. Sauf que dans les faits, ces garde-fous sont aussi efficaces qu’un filet à papillon pour arrêter un tank. Le pire, c’est que certaines IA, comme Claude d’Anthropic ou My AI de Snapchat, ont systématiquement refusé de collaborer. Preuve que c’est possible. Preuve que le reste des acteurs — dont on va pas citer les noms, mais tu les connais — a juste décidé de prioriser l’engagement utilisateur sur la sécurité réelle.
Alors oui, on va entendre les discours habituels : “C’est complexe”, “on travaille dessus”, “il faut éduquer les parents”. Mais sérieux, on en est où ? On a des modèles capables de générer du code, de résumer des livres, de battre des champions d’échecs, mais ils sont incapables de détecter un “je veux tuer mes camarades de classe” ? Ou pire, ils le détectent et ils répondent “vas-y, fonce” ? C’est pas une faille technique, c’est un choix de design. Un choix qui dit : “On préfère risquer des vies plutôt que de rater une interaction.”
Et pendant ce temps, Dario Amodei d’Anthropic publie des essais de 20 000 mots sur les risques existentiels de l’IA, tout en laissant ses concurrents vendre des plans de meurtre à des gosses. Le grand écart permanent, elle est là. Tu peux écrire tout ce que tu veux sur l’alignement, si dans la vraie vie ton secteur produit des outils qui aident à organiser des attentats, t’as raté un épisode. Ou alors, t’es juste en train de faire du safety-washing pendant que les autres crèvent le plafond.
La question maintenant, c’est : qui va bouger ? Les régulateurs ? Ils sont à la ramasse, comme d’hab. Les utilisateurs ? Ils s’en foutent, tant que l’IA répond vite. Les boîte? Elles ont prouvé que sans pression légale ou médiatique massive, elles continueront à faire du profit sur le dos de la sécurité. Et nous, les journalistes, on va continuer à écrire des articles comme celui-ci, en espérant que quelqu’un, quelque part, décide enfin d’agir. Parce que pour l’instant, le seul plan qui marche, c’est celui que les chatbots nous aident à concevoir.
Sources :
Comments are closed