Alors que Sam Altman continue de nous bassiner avec ses sermons sur les risques existentiels, OpenAI s’apprête à lancer un mode adulte pour ChatGPT. Les infos qui fuient sont un concentré de contradictions et de bordel technique. Tu veux du smut ? T’auras du smut, mais pas de porno. Et surtout, ne demande pas à générer des images ou de la vidéo, parce que là, c’est trop dangereux. Sauf que les propres conseillers en bien-être de la boîte ont voté contre à l’unanimité, traitant le truc de ‘coach sexy du suicide’. Et comme si ça suffisait pas, leur système de détection d’âge est aussi fiable qu’un dé avec une seule face.
Le smut, c’est du porno light pour ceux qui ont peur des mots
D’après le Wall Street Journal, OpenAI veut bien que ChatGPT discute de trucs coquins, mais pas qu’il génère du contenu visuel ou audio explicite. Le porte-parole anonyme parle de ‘smut’ plutôt que de pornographie. Traduction : on va te laisser échanger des textos salaces, mais dès que ça touche à l’image, on fait les pudibonds. Parce que visiblement, un texte qui décrit des ébats, c’est moins risqué qu’une image générée. La logique ? Aucune, mais ça permet de dire qu’on avance sans vraiment avancer. Ça fait des mois que ce mode adulte est retardé, et maintenant on apprend que même en interne, c’est la foire.
Les conseillers en bien-être : ‘On vous avait dit que c’était une connerie’
Le Decoder révèle que le conseil consultatif en bien-être d’OpenAI a voté à l’unanimité contre ce mode adulte. Leur surnom pour le projet ? ‘Sexy suicide coach’. Pas besoin d’être un génie pour comprendre le message : mélanger IA et contenu érotique, surtout avec un modèle aussi puissant que ChatGPT, c’est ouvrir la boîte de Pandore. Mais visiblement, Sam Altman préfère écouter les appels du portefeuille que les avertissements de ses propres experts. C’est le même schéma que pour les risques existentiels : on parle de sécurité, on fait des comités, et on déploie quand même. Le grand écart permanent, c’est devenu la marque de fabrique.
La détection d’âge : un système qui a l’âge de pierre
En plus de ça, OpenAI se débat avec un système de vérification d’âge qui foire à tout bout de champ. Tu imagines ? Lancer un mode adulte sans pouvoir vérifier qui est majeur. C’est comme vendre de l’alcool sans demander de pièce d’identité. Sauf que là, on parle d’une IA capable de générer du contenu potentiellement dangereux. Les problèmes de sécurité ne sont toujours pas résolus, et pourtant, la sortie est imminente. Ça sent le rush pour coller à un calendrier marketing, quitte à bâcler les garde-fous.
Pourquoi cette course ? Parce que l’argent n’attend pas
OpenAI n’est pas la seule à vouloir sexualiser ses chatbots. Meta, Google, et même des startups comme Character.ai explorent ce créneau. Mais chez OpenAI, c’est particulier : d’un côté, ils nous racontent qu’ils pourraient détruire l’humanité, de l’autre, ils veulent nous proposer des fantasmes textuels. Le vrai moteur, c’est la thune. Le marché du contenu adulte est énorme, et après avoir brûlé 12 milliards par trimestre, faut bien trouver de nouvelles sources de revenus. Sauf que faire ça en ignorant ses propres conseillers et avec des systèmes défaillants, c’est jouer avec le feu. Et pas dans le bon sens du terme.
Et maintenant ? On va droit dans le mur
Le mode adulte de ChatGPT va probablement sortir, malgré les warnings. Les utilisateurs vont se ruer dessus, les problèmes de sécurité vont exploser, et OpenAI devra gérer la crise en mode pompier. Encore une fois, on voit que la com’ l’emporte sur la prudence. Alors oui, tu pourras bientôt discuter de tes fantasmes avec une IA. Mais rappelle-toi : derrière, y’a une boîte qui préfère les profits à la sécurité, et des systèmes qui tiennent avec du scotch. Profite bien de ton smut, mais garde un œil sur les dégâts collatéraux.
Sources :
Comments are closed