Pour appeler tes modèles SageMaker avec le SDK OpenAI, maintenant t’as juste à changer l’URL. Amazon a compris le truc : plutôt que de forcer les développeurs à apprendre une énième API ou à wrapper du SigV4, ils te laissent utiliser l’SDK OpenAI directement. Depuis hier, SageMaker AI supporte une API compatible OpenAI pour les endpoints d’inférence temps réel. Tu changes l’URL, et paf, tes LangChain, tes Strands Agents, ton OpenAI SDK parlent à SageMaker sans une ligne de code supplémentaire.
C’est pas grand-chose, mais c’est gros. Parce que dans la vraie vie, personne n’a envie de réécrire un client custom pour chaque fournisseur de modèle. Google a ses SDK, Azure a les siens, et toi tu dois choisir un camp ou tricoter des wrappers moches. Là, Amazon te dit : « Fais comme avec OpenAI, on s’adapte. » Pas de client maison, pas de signature AWS à la main, juste un changement d’URL.
Concrètement, voilà ce que ça donne :
- Tu balances ton prompt via l’SDK OpenAI.
- Tu pointes vers ton endpoint SageMaker au lieu d’api.openai.com.
- Le modèle tourne sur ton infra AWS, avec tes contrôles de sécurité.
- Et tu utilises tous les outils de la galaxie SageMaker : monitoring, scaling, déploiement.
Pour les équipes qui ont déjà investi dans les agents Strands ou les chaînes LangChain, c’est un gain de temps monumental. Fini les couches d’abstraction qui pètent à chaque mise à jour. Bon, faut quand même avoir un endpoint SageMaker bien configuré, mais c’est le cadet de leurs soucis.
Amazon fait ici un move malin : plutôt que de tout réinventer, il te laisse utiliser ce que tout le monde connaît. Et accessoirement, ça rend SageMaker plus attractif face à Bedrock. Parce que oui, AWS se fait concurrence à elle-même, mais c’est une autre histoire.
Tu peux dégainer l’SDK OpenAI sur SageMaker ou continuer à t’arracher les cheveux sur du code legacy.
Sources :
Comments are closed