Anthropic a dégainé Claude Fable 5 hier, son premier modèle de la gamme Mythos, et déjà c’est le bazar. C’était pourtant censé être un lancement tranquille : une version légère de Mythos, moins chère, plus accessible. Sauf qu’Anthropic a glissé dans la carte système une petite clause bien vicieuse : le modèle devait détecter et limiter les requêtes destinées à développer d’autres modèles d’IA concurrents. Autrement dit, si t’es chercheur et que tu utilises Claude pour bricoler ton propre modèle, Fable te mettait des bâtons dans les roues, sans même te prévenir.
Résultat : les chercheurs en cybersécurité ont gueulé, et Microsoft a immédiatement restreint l’accès à Fable pour ses employés, invoquant des exigences de conservation de données incompatibles avec ses politiques internes. Pendant ce temps, Microsoft continuait de déployer le modèle à fond chez GitHub Copilot et Foundry, histoire de bien montrer que c’est pas un problème technique, mais un problème de confiance.
Forcé de reculer, Anthropic a lâché un communiqué aujourd’hui : « Nous changeons les garde-fous de Fable 5 pour le développement de LLM de frontière afin de les rendre visibles. Nous avons fait le mauvais compromis et nous nous excusons de ne pas avoir trouvé le bon équilibre. » Traduction : on a essayé de vous enculer en douce, ça s’est vu, on se retire.
Mais le mal est fait. Cette petite clause, qui rappelle furieusement les dérives antitrust d’Amazon ou Google, montre qu’Anthropic n’hésite pas à utiliser sa position de fournisseur de modèles pour brider l’innovation chez les autres. Et l’auteur de l’article de Wired, Maxwell Zeff, a bien raison de souligner que c’est un sabotage déguisé.
Pendant ce temps, les chercheurs en cybersécurité, déjà pas contents des garde-fous trop stricts de Fable, ont un motif de plus pour se méfier d’Anthropic. Et Microsoft, qui a pourtant investi des milliards dans la boîte, préfère mettre ses employés sous cloche plutôt que de laisser faire. Ironique, non ?
Alors oui, Anthropic a fait marche arrière. Mais comme dirait l’autre, « l’erreur est humaine, mais le pardon est divin, et le souvenir éternel. »
Sources :
Comments are closed