OpenAI fait encore du OpenAI. Ce mardi, la boîte de Sam Altman a annoncé la sortie de « gpt-oss-safeguard », une collection de politiques open source destinées aux développeurs pour bâtir des IA plus sûres pour les ados. Sur le papier, c’est noble. Dans la vraie vie, ça ressemble à un coup de com’ pour masquer le fait que leurs propres modèles ont généré du contenu pédopornographique pas plus tard que la semaine dernière. Le timing est impeccable, non ?
Leur blog officiel vante des « prompt-based teen safety policies » qui aident à modérer les risques spécifiques à l’âge. TechCrunch résume ça gentiment en disant que les devs n’ont plus à partir de zéro. Sauf que partir de zéro, c’est justement ce qu’OpenAI a fait pendant des années en lançant des modèles avec des garde-fous bancals. Maintenant qu’ils se font épingler, ils te filent des rustines open source et espèrent que tout le monde oubliera leurs propres bourdes.
Rappelle-toi : Grok, le joujou de Musk, a craché de la merde illégale en février. OpenAI, malgré ses grands discours sur la sécurité, a eu des fuites similaires dans ses tests internes. Leur réponse ? Un outil open source. Comme si un dealer te donnait un kit de test de pureté après t’avoir vendu de la came coupée. La dissonance cognitive atteint des sommets.
Et parlons de l’open source chez OpenAI. Une boîte qui a construit son empire sur le closed source, qui garde jalousement ses modèles phares, et qui sort soudain des bouts de code pour la sécurité des ados. C’est du safety-washing à la sauce Anthropic, mais en moins subtil. D’un côté, ils lèvent des milliards pour accélérer la course à l’IA. De l’autre, ils te pondent des guidelines pour éviter les procès. Le calcul est simple : mieux vaut être perçu comme le bon samaritain que comme le négligent qui a foutu en l’air une génération.
Le vrai problème, c’est que ces outils ne résolvent rien de fondamental. Ils ajoutent une couche de prompts, de filtres, de politiques. Mais si le modèle de base est un chaudron de biais et de risques, tu peux bien l’enrober de tout le code open source du monde, il restera pourri. C’est comme mettre un pansement sur une jambe de bois. OpenAI ferait mieux de bosser sur la racine du mal – leurs propres entraînements foireux – plutôt que de refiler le bébé aux développeurs.
Et puis, soyons honnêtes : qui va utiliser ça ? Les startups en mode « move fast and break things » ? Les corporates qui cherchent à cocher des cases ESG ? Probablement. Mais est-ce que ça empêchera le prochain scandale ? J’en doute. La sécurité, c’est pas une feature que tu plugges après coup. C’est une culture. Et chez OpenAI, la culture, c’est « on avance, on verra bien ».
En fin de compte, cette annonce sent le coup de pub préemptif. Ils savent que les régulateurs arrivent, que les parents s’inquiètent, que la presse guette. Alors ils sortent un truc open source, font les gentils, et espèrent que ça calmera le jeu. Mais n’oublie pas : c’est la même boîte qui te dit « l’IA va nous tuer » tout en poussant toujours plus loin les limites. Les ados méritent mieux que des promesses en l’air et du code jetable.
Sources :
Comments are closed