T’as claqué un demi-million pour des H100, t’as affiné ton modèle sur ton corpus maison, et ton agent continue de faire de la merde. Mauvaise nouvelle pour ton ego, bonne nouvelle pour ton portefeuille : le problème n’est presque jamais le modèle. C’est le bordel autour.
On a un mot pour ce bordel, désormais. Le « harnais ». En anglais dans le texte, parce que la recherche bosse en anglais : le harness. C’est tout ce qui enveloppe le modèle gelé. Les prompts, le flux de contrôle, les outils branchés, la mémoire, la gestion du contexte. Le modèle, c’est le moteur. Le harnais, c’est la carrosserie, les freins, le volant et tout le câblage. Quand la bagnole finit dans le fossé, c’est rarement le moteur qui a lâché le premier.
Deux publications tombent à quarante-huit heures d’écart et disent exactement ça, sous deux angles différents.
La recherche veut faire évoluer le harnais tout seul
Premier son de cloche, côté labo. Une équipe (Peng Xia, Rujun Han, Zifeng Wang et compagnie) propose un truc au nom à coucher dehors : RRSI, pour « Regularized Recursive Self-Improvement of Agent Harnesses ». Traduction libre : l’auto-amélioration récursive du harnais d’agent, version régularisée.
L’idée n’est pas neuve et elle a de quoi séduire. Puisque le harnais compte plus que le modèle, autant le laisser se bidouiller lui-même. Tu files à ton agent la capacité de proposer des modifications de ses propres composants (un prompt par-ci, un outil par-là, une règle de mémoire ailleurs), tu sélectionnes ce qui tient la route, tu recommences. Boucle après boucle, le système s’améliore. Recursive self-improvement, le fantasme maison de tout le secteur depuis que quelqu’un a lâché le mot « AGI » dans un micro.
Sauf que ça dérape. Les auteurs le disent noir sur blanc : cette évolution récursive finit par sur-apprendre. L’agent mémorise les tâches d’entraînement, empoche des gains ravissants en interne, puis tu le sors du nid. Benchmarks hors distribution. Et là, miracle, les gains s’évaporent. Le stagiaire qui gère une démo scriptée et se liquéfie devant un vrai client.
Leur correction, c’est de la régularisation, forcément. Ils brident la proposition et la sélection des candidats pour empêcher le harnais de se spécialiser à mort dans son bac à sable. Principe vieux comme le machine learning : si ton système apprend trop bien tes données, c’est qu’il apprend tes données, pas le problème. On a juste déplacé la bataille au niveau du système d’agent. Marrant de voir le bon vieux sur-apprentissage ressortir par la porte d’un concept flambant neuf, tout habillé de « self-improvement ».
En prod, le harnais casse autrement
Deuxième son de cloche, côté production. Là, on quitte la théorie pour le cambouis. Vinoth Govindarajan, qui bosse chez OpenAI, a posé une présentation sur le même sujet, version « ça fait mal dans la vraie vie ». Son point de départ devrait en calmer quelques-uns : les agents de production ne plantent pas seulement parce que le modèle hallucine. C’est le refrain qu’on entend partout, le modèle invente, c’est bien connu. Sauf que non. Le modèle est un suspect facile.
Ce qui casse, selon lui, c’est le harnais. Et il aligne quatre principes qui ressemblent furieusement à du BTP logiciel de base, de quoi faire réfléchir ceux qui pensent que l’IA agentique apporte quelque chose de neuf :
- La propriété de l’état doit être explicite. Qui détient quoi, qui modifie quoi. Si personne ne sait qui possède la donnée, c’est la foire.
- Les mutations concurrentes de l’état doivent être sérialisées. Quand deux agents bricolent le même objet en même temps, quelqu’un doit faire la queue. Sinon tu récoltes des conditions de course délicieuses, le genre de bug qui te coûte une nuit blanche et une engueulade.
- L’autorité d’exécution doit être délimitée. Un agent ne devrait pas pouvoir faire tout ce que son clavier lui permet. Périmètre, permissions, limites.
- Enfin, on valide l’action au bord, là où l’utilisateur la voit. Pas au fond du pipeline, là où personne ne regarde jamais.
Il étaye le tout avec des cas concrets, dont un dénommé OpenClaw. Pas besoin de dessin : ce sont les fondations qu’on aurait dû poser avant de coller des agents partout.
Le même aveu des deux côtés
Mets les deux papiers côte à côte et le message crève les yeux. La recherche découvre que faire évoluer le harnais tout seul mène au sur-apprentissage. Un ingénieur d’OpenAI explique de son côté que les agents lâchent à cause de problèmes d’état, de concurrence et de permissions, pas de cortex. Dans les deux cas, la star n’est plus le modèle. C’est la plomberie.
Ça devrait refroidir deux tribus. Les obsédés du benchmark, d’abord, ceux qui comparent les QI des LLM comme on compare des fiches techniques de bagnoles. Les marchands de « l’agent qui fait tout », ensuite, ceux qui te vendent une armée d’agents autonomes sans jamais aborder la question de qui tient le volant quand deux d’entre eux décident de modifier la même ligne de base en même temps.
On en parlait déjà dans notre papier sur les agents qui dérapent et le suspect qui porte un badge : le premier réflexe quand un agent part en vrille, c’est de chercher le saboteur. Alors qu’il n’y a souvent pas de saboteur. Il y a un harnais monté à l’arrache, sans propriété d’état, sans sérialisation, sans périmètre.
Et le mot qui tue
Le plus savoureux reste le vocabulaire. « Harnais ». Un mot de sellerie, d’attelage. Celui qu’on met à un cheval pour qu’il tire la charrette sans s’emballer. On a donc des ingénieurs qui découvrent, en 2026, qu’il faut atteler proprement leur bête si on veut qu’elle aille dans la bonne direction. Rien de neuf sous le soleil : on a passé dix ans à améliorer la race du cheval, et on réalise que le harnais comptait autant.
Alors oui, RRSI a de bonnes intentions et Govindarajan a raison sur toute la ligne. Mais gare au nouveau mantra creux, le slide qu’on ressort en réunion pour faire croire qu’on a pigé. Parce que si ton harnais s’auto-améliore jusqu’à sur-apprendre, et qu’il ne sérialise même pas ses écritures d’état, tu n’as pas un agent autonome. Tu as un cheval qui court plus vite que la charrette qu’il traîne.
Sources :
Comments are closed