Les patrons de la tech sont accros aux tokens, mais ils commencent à flipper

Cette période où tout le monde claquait des tokens comme des Pokémons, où chaque requête méritait le dernier modèle à la con, est révolue. Pourtant, même les patrons de la tech sont incapables de résister. Mais contrairement à la plupart, eux ils ont commencé à voir la facture.

Nadella, le token-maxer assumé

Satya Nadella, le CEO de Microsoft, a fait son coming out dans un récent épisode du podcast Hard Fork : « Je suis moi-même un token-maxer aussi. C’est addictif. » Traduction : même le mec qui te vend les tokens ne peut pas s’empêcher d’en consumer à tout-va.

Mais attention, le monsieur pond aussi un avertissement : « La dure réalité, c’est que le coût marginal de l’amélioration de la productivité doit correspondre au coût marginal du token. » En clair, arrêtez de balancer du GPT-5 ou du Claude Fable 5 pour répondre à des emails de deux lignes. Les modèles de pointe ne devraient pas être gaspillés sur des problèmes du quotidien.

Pourtant, dans la même interview, Nadella dépeint un avenir où les développeurs ne coderont plus mais superviseront des centaines, voire des milliers d’agents IA. Il appelle ça la « couverture cognitive » : comprendre en profondeur le code écrit par les agents. « J’ai un dépôt rempli de code écrit par des agents. Je comprends cognitivement ce qui s’est passé. » Un programme qui va bouffer un max de tokens.

Meta met le holà

Pendant ce temps, chez Meta, on est passés de la phase « tokenmaxxing » à la gestion de crise. Selon une note interne révélée par The Information et adressée à environ 6 000 employés, Meta alerte sur une « augmentation exponentielle » de l’utilisation de l’IA. L’entreprise serait en passe de dépenser des milliards rien qu’en usage interne d’ici 2026.

Le problème, c’est que les employés et les équipes n’avaient aucune visibilité sur leur propre consommation. Résultat : un classement interne baptisé « Claudeonomics » où les employés faisaient la course aux tokens, accumulant 73,7 billions de tokens en à peine 30 jours. Oui, billions avec un B.

À partir de 2027, Meta compte instaurer des budgets, des allocations et des outils dédiés pour gérer les tokens. Un tableau de bord central appelé « AI Gateway » a déjà été développé pour suivre l’utilisation et les dépenses en un seul endroit. Des alertes automatiques en cas de pics de coûts inhabituels sont également prévues.

Le paradoxe de la productivité

CTO Andrew Bosworth a remis les pendules à l’heure dans une note séparée : « Personne ne devrait utiliser les outils IA simplement pour les utiliser. Tout mouvement n’est pas un progrès et l’utilisation de tokens n’est pas une mesure de l’impact, quel qu’il soit. » Les outils ne devraient être utilisés que lorsqu’ils « nous permettent réellement de faire un meilleur travail, plus rapidement ».

Meta n’est pas la seule à avoir connu ce phénomène. Amazon avait déjà eu un problème similaire de tokenmaxxing qui avait dégénéré. Et Sam Altman lui-même a récemment qualifié le contrôle des coûts de « problème majeur » chez ses clients, probablement en partie à cause des hausses massives de prix pour l’utilisation des modèles.

La vérité qui dérange

Ce qui est frappant dans cette histoire, c’est que les deux plus grands vendeurs d’IA (Microsoft via OpenAI, Meta via Llama) sont aussi les premiers à en abuser. L’addiction aux tokens ne fait pas de différence entre le simple mortel et le milliardaire de la tech. Si même les mecs qui construisent ces machines à tokens ne peuvent pas s’empêcher de les utiliser à outrance, les entreprises normales ne peuvent pas garder la tête froide non plus.

Oui, l’IA est addictive. Et il va falloir apprendre à en avoir une consommation raisonnée. Sinon, la prochaine crise dans la tech ne sera pas une bulle de la valuation, mais une overdose de tokens.


Sources :

Categories

Comments are closed

Latest Comments

Aucun commentaire à afficher.