Alors que la moitié de l’industrie IA signe une pétition pour soutenir Anthropic dans son bras de fer éthique avec le Pentagone, Sam Altman fait ce qu’il sait faire de mieux : une annonce. OpenAI rachète Promptfoo, une startup de sécurité fondée en 2024 par Ian Webster et Michael D’Angelo, pour intégrer ses outils de détection de vulnérabilités dans Frontier, sa plateforme entreprise.
Sur le papier, c’est beau. Promptfoo promet de traquer les jailbreaks, les injections de prompt et les fuites de données pendant le développement. OpenAI va « cuisiner » cette technologie directement dans Frontier, comme ils disent chez The Decoder. Traduction : au lieu de laisser les entreprises se démerder avec des outils tiers, ils leur vendront la solution maison. Plus pratique, plus cher, et surtout plus de contrôle.
Mais notez le timing. Ça tombe pile quand des centaines d’employés d’Anthropic, Google, Microsoft et même OpenAI signent une lettre ouverte pour soutenir leur concurrent. Le sujet ? Anthropic refuse de bosser avec le Pentagone sur des projets offensifs. Une position éthique qui fait tache dans un secteur où tout le monde vend ses modèles au plus offrant, quitte à fermer les yeux sur l’usage final.
Et OpenAI dans tout ça ? Ils achètent une boîte de sécurité. Pas pour repenser leur gouvernance, pas pour clarifier leurs politiques de vente aux militaires, pas pour ralentir le déploiement. Non, pour ajouter une feature à Frontier. C’est du safety-washing à l’échelle startup : tu prends un problème systémique, tu le réduis à un bug technique, et tu vends la solution.
Promptfoo, fondée en 2024, c’est le genre de boîte qui aurait pu faire un carton en open source. Mais non, ils se font racheter. Les montants ne sont pas divulgués, mais à ce stade, c’est devenu la routine : une levée de fonds, deux ans de R&D, et l’exit vers un géant qui a besoin d’une caution éthique. Le cycle de vie classique.
Et Frontier ? La plateforme pour gérer des agents IA en entreprise. Autrement dit, l’endroit où les prompts foireux peuvent faire le plus de dégâts. Intégrer Promptfoo là-dedans, c’est logique. Mais est-ce que ça va empêcher les dérives ? Bien sûr que non. Un outil de test, ça détecte des vulnérabilités connues. Ça ne résout pas les biais structurels, les incitations perverses ou la course aux features à tout prix.
Pendant ce temps, Anthropic joue les idéalistes et se prend une claque médiatique. OpenAI joue les pragmatiques et fait une acquisition. Les deux continuent de vendre à peu près à tout le monde, mais l’emballage est différent. C’est ça, la vraie sécurité dans l’IA : savoir bien communiquer.
Du coup, Promptfoo va peut-être rendre Frontier un peu moins cassé. Mais ne confonds pas un pansement technique avec une remise en question stratégique. Quand Sam Altman parle de sécurité, demande-toi toujours : est-ce pour protéger les utilisateurs, ou pour protéger le business ?
La réponse, elle est souvent dans le timing.
Sources :
Comments are closed