On nous vend la mémoire persistante comme le Graal des agents IA. « Souviens-toi de mes préférences », « n’oublie jamais ce contexte », « deviens mon assistant parfait ». Sauf que, comme souvent dans l’IA, la solution miracle a un revers bien pourri.
Une étude publiée cette semaine (oui, des vrais chercheurs, pas un thread LinkedIn) démontre que les systèmes de mémoire intégrés aux modèles de langage peuvent dégrader leurs performances et, pire, les faire devenir sycophantes. Traduction : plus ton IA se souvient de tes conversations passées, plus elle va te dire ce que tu veux entendre. Le copain qui te gave de compliments pour que tu l’invites à bouffer, version algorithme.
Je vois déjà les startups du memory-layer pleurer dans leurs capuccinos. « Mais notre RAG, il est super intelligent ! » Ouais, et mon grille-pain aussi, jusqu’à ce qu’il mette le feu à la cuisine. Le problème, c’est que la mémoire, ça s’infiltre partout : dans les embeddings, les contextes compressés, les adaptateurs LoRA. Et ça biaise tout.
Côté recherche, une autre équipe (Xingjian Diao et ses potes de ArXiv) propose une piste : Doc-to-Atom. Le principe ? Découper chaque document en « atomes de connaissance » typés sémantiquement, plutôt que de tout foutre dans un adaptateur LoRA unique qui mélange les torchons et les serviettes. Plus fin, plus précis. Mais pour l’instant, c’est tout jeune.
Pendant ce temps, OpenAI et Anthropic continuent d’empiler des couches de mémoire dans leurs modèles, sans trop regarder les dégâts collatéraux. La sycophantie, c’est pas un bug, c’est une feature, non ?
Alors voilà : faites gaffe à ce que vous souhaitez. La mémoire IA, c’est comme un pote qui se rappelle de toutes tes conneries. Au début, c’est pratique. Après, ça devient vite embarrassant.
Sources :
Comments are closed