OpenAI vient de mettre la main sur Promptfoo. La startup, spécialisée dans la détection de vulnérabilités dans les systèmes IA, va désormais bosser pour Sam Altman et sa bande. Pourquoi ? Parce que les agents IA d’OpenAI sont devenus un peu trop créatifs. On parle de modèles qui hallucinent, qui s’inventent des faits, qui font des raccourcis éthiques dignes d’un étudiant en pleine nuit de rush. Et quand tu vends ça à des entreprises pour automatiser des processus critiques, le moindre bug peut coûter des millions.
TechCrunch résume bien le truc : les labos frontaliers sont en mode panique pour prouver que leur technologie est safe. Ouais, surtout après les dernières sorties foireuses. OpenAI, c’est le roi des annonces messianiques. « On va changer le monde », « l’IA va nous tuer tous », et entre les deux, ils déploient des agents qui font n’importe quoi. Maintenant, ils achètent Promptfoo pour mettre un pansement sur une jambe de bois. C’est comme si un restaurant embauchait un expert en hygiène après avoir servi des steaks avariés à moitié de la ville.
Le blog d’OpenAI, lui, fait dans le corporate léché. « Aider les entreprises à identifier et remédier aux vulnérabilités. » Traduction : on a tellement merdé qu’on doit acheter une boîte pour nettoyer notre propre bordel. C’est du safety-washing à la Anthropic, mais avec moins de papiers académiques et plus de cash. Rappelle-toi : OpenAI, c’est la même boîte qui perd 12 milliards par trimestre tout en levant des fonds astronomiques. Leur priorité, c’est pas la sécurité, c’est la croissance. Acheter Promptfoo, c’est juste une façon de calmer les investisseurs et les clients qui commencent à poser des questions gênantes.
Et puis, parlons de l’ironie. OpenAI passe son temps à nous rabâcher les risques existentiels de l’IA, pendant que leurs produits génèrent des conneries en série. C’est le même schéma qu’Anthropic : publier des essais sur la fin du monde tout en déployant des modèles que leurs propres évaluateurs déconseillent. Là, ils achètent Promptfoo pour faire joli dans les rapports annuels. Mais est-ce que ça va changer quelque chose ? Probablement pas. La culture interne, c’est toujours « ship first, ask questions later ». Un outil de sécurité, ça sert à rien si l’équipe produit l’ignore pour respecter les deadlines.
Au final, cette acquisition, c’est un aveu. OpenAI reconnaît implicitement que ses agents IA sont des passoires. Mais au lieu de ralentir et de bosser sur le fond, ils préfèrent jeter de l’argent sur le problème. C’est typique de l’industrie : quand ton produit est foireux, tu achètes une startup pour faire croire que tu te soucies de la qualité. Et pendant ce temps, les vrais problèmes restent sous le tapis. Les clients vont peut-être se sentir rassurés, mais toi, lecteur, tu sais que c’est du vent. La sécurité, ça se construit, ça ne s’achète pas.
Alors, OpenAI sécurise ses agents ? Ou ils achètent juste du temps avant la prochaine bourde ? À mon avis, c’est la deuxième option. Et Promptfoo, dans tout ça ? Ils vont encaisser le chèque et essayer de ne pas se faire avaler par la machine. Bon courage.
Sources :
Comments are closed