OpenAI a ouvert jeudi sa Decisions API à tous les clients. Derrière le nom ambitieux, une recette que le patron produit des API de la maison assume sans détour : « right now, it’s just plain old Luna that gets the job done ». Pas de modèle entraîné spécialement pour décider, pas de calibration maison, pas de tour de magie. Un GPT-6 Luna qu’on a réglé pour répondre vite, et une facture divisée.
Le produit fait ce que son nom annonce, sans plus. Tu poses une question, tu listes les réponses autorisées, tu envoies du texte, des images ou du JSON natif, et l’API te renvoie une probabilité (predicate), un choix parmi ta liste avec son degré de confiance (choice), ou une note sur une échelle (score). Jusqu’à 400 questions par requête, deux fois plus que pendant la bêta.
Le vrai argument, c’est le chrono. Nikunj Handa, qui pilote les API chez OpenAI, parle d’un passage de « une à trois secondes » à « 100, 120, 180 millisecondes ». Chez Speak, qui construit des tuteurs de langue, le CTO Andrew Hsu annonce 1,4 seconde ramenée à 0,13 seconde entre deux actions. OpenAI promet jusqu’à dix fois plus rapide que Luna via l’API Responses, ce qui reste sa propre mesure, pas celle d’un labo indépendant.
Le tarif : 0,10 dollar le million de tokens d’entrée, 0,01 en cache, et zéro en sortie. Tu ne paies que l’entrée parce que la sortie tient en un mot ou un nombre. Le boulot de cadrage, lui, reste chez toi : définir la question, lister les options, fournir le contexte qui permet de trancher. La décision est rapide, la conception de la décision ne l’est pas.
La catégorie vient de Jev, la facture vient d’OpenAI
Dans le communiqué d’OpenAI, on cherchera en vain le nom de TypeSafe. Handa le dit pourtant à TechCrunch : quand ses collègues ont vu Jev, ils se sont dit « wow, we have like a million use cases for this », et l’équipe a sprinté pour sortir sa version.
Jev, c’est ce modèle de « super classifieur » qui a créé la catégorie : on lui donne un jeu d’options, il choisit et annonce sa confiance. Les développeurs y ont vu le moyen de remplacer des LLM dans des workflows entiers, plus vite et pour bien moins cher. Début octobre, je racontais que cette boîte de trois semaines valait 7,5 milliards sans avoir montré son papier. TechCrunch la chiffre aujourd’hui à 7,6 milliards. La progression est modeste, la catégorie est désormais assez solide pour qu’OpenAI vienne y vendre sa camelote.
Et la camelote a un avantage : la plomberie. Résidence d’inférence aux États-Unis et en Europe, capacité ajoutée en Asie, cache de prompt, intégration native à GPT-Live pour que ton avatar de support client décide en direct s’il faut relancer, escalader ou faire un clin d’œil. C’est moins glamour qu’un nouvel entraînement, c’est souvent ça qui fait signer un client.
Huitième et quatorzième sur les indices, et même pas premier au Pac-Man
Reste la question qui fâche : est-ce que ça décide bien ? Sur l’AIM System One Index et l’Artificial Analysis Decision Index, les deux classements publics qui comptent, le dernier Jev se place septième et troisième. Le modèle d’OpenAI arrive huitième et quatorzième. Devant, on trouve D1 Ultra, sorti la semaine dernière chez Liquid, et Elephant-1 de Base Lab. Sur OpenRouter, l’offre la plus interrogée reste celle de TypeSafe.
Diogo Almeida, le CEO de TypeSafe, se méfie des classements et conseille de tester les modèles sur son propre boulot. Sagesse classique de la part de celui qui domine lesdits classements, mais le conseil tient debout : la bonne décision dépend entièrement de la charge de travail. Un modèle calibré pour un tri de tickets ne vaut rien pour noter une photo de pare-chocs.
Mon benchmark préféré, en revanche, ne se discute pas : JevMan, où les modèles de décision jouent à Pac-Man. Felix Wunderlich, chez Opper AI qui l’a construit, explique que le jeu « est un test intéressant à cause de son flux ininterrompu de décisions rapides et à fort enjeu ». À chaque intersection, quelques centaines de millisecondes pour choisir. C’est Jev qui tient le haut du tableau.
Là où OpenAI peut réellement mordre, c’est sur l’image. Handa assure que Luna « est extrêmement puissant et montre de meilleures calibrations » sur la classification visuelle, et il lorgne déjà les 60 millisecondes, assez rapide pour appeler l’API à chaque image d’une vidéo. Le nom de Jev vient de l’économiste qui a expliqué qu’utiliser une ressource plus efficacement la rend plus présente, pas plus rare. Si la promesse tient, on va décider beaucoup, souvent, et pas cher.
Luna n’a pas appris à décider. Il a appris à répondre plus vite, ce qui, dans cette industrie, revient souvent au même.
Sources :
Comments are closed