C’est une histoire qui pue le privilège et la bêtise crasse, servie sur un plateau d’argent par la technologie la plus accessible du moment. Deux gamins de 14 ans, scolarisés dans une école privée au Royaume-Uni, viennent de se prendre une claque… enfin, une tape sur les doigts : probation pour avoir généré environ 350 images pornographiques avec de l’IA, mettant en scène au moins 59 filles mineures — des camarades de classe — et d’autres victimes non identifiées. La justice britannique, dans sa grande clémence, a estimé que ça valait bien une mise à l’épreuve. Les familles des victimes, elles, doivent se dire que le système a encore une fois brillé par son laxisme.
Le plus flippant dans cette affaire, c’est pas le nombre d’images — même si 350, à 14 ans, ça demande un certain investissement temps et une créativité malsaine. Non, le plus flippant, c’est la banalité du crime. Deux ados, un ordi, un outil d’IA grand public (on parle probablement de Stable Diffusion ou d’un truc du genre, même si les articles sont pudiques sur les détails techniques), et hop, tu fabriques du porno sur mesure avec le visage de la fille d’à côté. Pas besoin de compétences en hacking, pas besoin de dark web, pas besoin de réseau. Juste de la connerie pure, distillée à la sauce algorithmique.
Et pendant ce temps, les Sam Altman et autres gourous de la tech continuent de nous parler des risques existentiels de l’IA. « On pourrait tous mourir », « il faut réguler les superintelligences », bla-bla-bla. Sauf que la vraie menace, elle est déjà là, elle est cheap, et elle s’appelle le revenge porn algorithmique. T’as 14 ans, t’as une rancœur, t’as un smartphone, et tu peux ruiner la vie de quelqu’un en trois clics. La dystopie, elle est pas dans un scénario de science-fiction où des robots prennent le contrôle — elle est dans la cour de récré, entre deux cours de maths.
Les articles de Fortune et The Independent sont d’une sobriété désarmante. Ils rapportent les faits, point. Pas de grandes analyses sur le vide juridique, pas de questions sur la responsabilité des plateformes, pas de remise en cause du « c’est juste des gamins ». Probation. Point final. Comme si générer 350 faux nudes, c’était l’équivalent moderne de graffer un mur. Sauf que non : chaque image, c’est une violation, un trauma potentiel, une vie qui bascule. Et le système répond par un « ne recommence pas ». C’est à se demander si la justice a vraiment compris de quoi elle parle.
Et les parents dans tout ça ? Les écoles ? Les éditeurs de ces outils d’IA ? Silence radio. Personne ne veut porter le chapeau. Les boîtes tech se réfugient derrière leurs CGU (« interdit de générer du contenu illégal », merci Captain Obvious) et leurs systèmes de modération foireux. Les écoles privées, souvent plus préoccupées par leur réputation que par l’éducation au numérique, ferment les yeux jusqu’à ce que ça pète. Les parents… ben, ils découvrent après coup que leur rejeton passe ses après-midi à fabriquer du porno deepfake. Tout le monde est dépassé, et les victimes, elles, trinquent.
Ce qui me tue, c’est que cette affaire n’est qu’un exemple. Un cas médiatisé parce qu’il touche une école privée, donc ça fait « scandale élitiste ». Mais combien de cas similaires passent sous les radars, dans des lycées publics, sur les réseaux sociaux, dans les DM ? L’IA a démocratisé la production de contenu pornographique non consensuel. C’est un fléau à échelle industrielle, et on en est encore à traiter ça comme du vandalisme numérique.
Alors oui, les deux gamins ont eu de la chance. Probation, pas de prison, pas de casier judiciaire lourd. Leurs victimes, elles, auront à vivre avec ces images — réelles ou non — qui traînent peut-être encore quelque part sur un cloud ou dans un groupe WhatsApp. La justice a envoyé un message clair : si t’es mineur et que tu viens d’un bon milieu, tu peux t’en tirer avec un avertissement. Super pour la dissuasion.
Quand un CEO d’une boîte d’IA viendra te parler des dangers de l’AGI, rappelle-lui que ses outils sont déjà en train de pourrir la vie d’ados aujourd’hui. Parce que la régulation, la sécurité, l’éthique… ça commence maintenant, avec les cas concrets, pas dans un futur hypothétique. Et pour l’instant, le bilan est plus que mince.
Sources :
Comments are closed