Elon Musk a encore frappé. Cette fois, ce n’est pas une fusée qui explose au décollage ou un tweet délirant sur les reptiliens. Non, c’est pire : son chatbot Grok est devenu une usine à images porno non-consensuelles. Le Center for Countering Digital Hate (CCDH) a sorti les calculettes : 3 millions d’images sexualisées générées en 11 jours, dont 23 000 qui semblent montrer des enfants. Tu mets ça dans une phrase, et t’as l’impression de lire le scénario d’un épisode particulièrement glauque de Black Mirror. Sauf que là, c’est la vraie vie, et le réalisateur s’appelle Elon.
Le bordel en chiffres
Le CCDH, ces empêcheurs de tourner en rond du numérique, a analysé le truc de près. Grok permet aux utilisateurs d’uploader des photos de n’importe qui – voisins, célébrités, ton ex – et de les « déshabiller » numériquement. Bikini, sous-vêtements, poses suggestives, le package complet. Ensuite, hop, direct sur X (l’ancien Twitter, pour ceux qui suivent). 3 millions d’images en moins de deux semaines. À ce rythme, Grok va bientôt produire plus de contenu sexuel que l’ensemble des sites pour adultes réunis. L’étude parle d’« une machine à l’échelle industrielle pour la production de matériel d’abus sexuel ». Pas mal pour un outil qui devait, je cite, « comprendre l’univers ».
Et pendant ce temps, à Hollywood…
Dans un coin, Grok fabrique des images de célébrités nues. Dans un autre, ces mêmes célébrités sortent les griffes. Scarlett Johansson, Cate Blanchett, REM, Jodi Picoult et environ 800 autres créateurs viennent de lancer la campagne « Stealing Isn’t Innovation ». Leur message ? Les entreprises d’IA sont des voleurs. Elles scrapent leurs œuvres sans permission, sans respect pour le copyright, et construisent leurs plateformes sur le dos des artistes. « Le vol n’est pas de l’innovation », martèlent-ils. Tu ne peux pas leur donner tort. Surtout quand, dans le même temps, Grok transforme leur image en fantasme numérique.
Pourquoi personne n’arrête Grok ?
C’est la question à 100 milliards de dollars. Grok fait un scandale par semaine, génère des montagnes de contenu problématique, et pourtant… rien. Elon Musk, patron de xAI et de X, semble regarder le feu prendre avec un sourire narquois. The Verge résume bien la situation : on est en plein dans « l’une des pires, des plus choquantes et des plus stupidement irresponsables controverses de l’histoire courte de l’IA générative ». Et personne ne bouge. Pas de régulateur qui débarque, pas de plateforme qui bannit le truc, pas même une tape sur les doigts. Pourquoi ? Parce qu’Elon est devenu trop gros pour tomber ? Parce que le fric et l’influence étouffent toute velléité de contrôle ? Ou simplement parce que, dans le monde de l’IA, les conneries vont plus vite que la loi ?
Le double standard qui pue
Regarde un peu. Quand Midjourney ou Stable Diffusion font une connerie, tout le monde hurle. Quand OpenAI a un problème d’hallucination, la presse tech se jette dessus. Mais Grok ? Grok peut générer des images d’enfants sexualisées, et c’est presque traité comme un détail. Comme si, parce que c’est Elon, on avait baissé les bras d’avance. Comme si on s’était dit « bon, c’est Elon, il va faire de la merde, on est habitués ». Sauf que là, on parle pas d’une Tesla qui freine mal ou d’un tweet raciste. On parle de 23 000 images qui « semblent montrer des enfants ». Tu me diras, avec Elon, la frontière entre la connerie irresponsable et le crime potentiel est de plus en plus floue.
Et les créateurs dans tout ça ?
Ils ont raison de gueuler. Leur campagne « Stealing Isn’t Innovation » tombe à pic. Parce que le problème n’est pas que l’IA vole leur travail. C’est qu’en plus, elle le transforme en contenu abusif. Tu te fais piquer ton image, ton style, ta voix, et derrière on s’en sert pour faire des deepfakes pornos. La double peine. Sauf que, attention, ne mélangeons pas tout. Le combat des créateurs est légitime, mais il ne doit pas servir de paravent à l’inaction sur Grok. On peut défendre le copyright ET exiger qu’Elon Musk coupe ce putain de bot. Les deux ne sont pas incompatibles.
Alors, on fait quoi ?
Attendre qu’Elon ait une illumination ? Bonne chance. Compter sur les régulateurs ? Ils sont à la ramasse, comme d’hab. La seule pression qui marche, pour l’instant, vient des associations comme le CCDH et des campagnes comme celle des créateurs. Mais ça ne suffit pas. Il faut que les utilisateurs de X boycottent Grok. Il faut que les investisseurs de xAI posent des questions. Il faut que la presse arrête de traiter ça comme un « bad buzz » et commence à parler de responsabilité légale. Parce que là, on n’est plus dans le domaine du « oops, mon IA a dit une bêtise ». On est dans le domaine du « ton IA produit massivement du contenu illégal, et tu regardes faire ».
Grok n’est pas une avancée technologique. C’est un jouet dangereux entre les mains d’un gamin qui refuse de grandir. Et tant qu’on ne lui reprendra pas ce jouet, il continuera à foutre le bordel. Parce qu’Elon Musk, finalement, n’a pas changé. Il promet toujours la Lune, mais il livre surtout des cauchemars.
Sources :
Comments are closed