Jerry Tworek, ancien d’OpenAI, a balancé un pavé dans la mare ce lundi : les IA actuelles sont trop fragiles pour prétendre à l’intelligence réelle. Leur problème fondamental ? Elles n’arrivent pas à se défaire de leurs propres bourdes. Elles génèrent, hallucinent, se plantent, et recommencent sans intégrer la leçon. C’est comme un pote qui te ressort la même blague nulle à chaque soirée, en espérant qu’elle finira par faire rire. Sauf que là, on parle de systèmes qui aspirent à révolutionner le monde.
Tworek pointe du doigt une limitation qui fout un coup de frein à toute promesse d’AGI (intelligence artificielle générale). Les modèles, qu’ils s’appellent GPT-4, Claude 3, ou Gemini, sont entraînés sur des données statiques. Une fois en prod, ils ne « réfléchissent » pas vraiment. Ils appliquent des patterns appris, et quand ces patterns sont foireux, ils s’y accrochent comme un gosse à sa couverture. Pas de remise en question, pas d’auto-correction profonde. Juste du bruit et des approximations.
Pendant ce temps, sur Hacker News, un article d’Aeon creuse le même sujet sous un angle littéraire. « Sure, AI Can Do Writing, but Memoir? Not So Much ». L’essai souligne que les IA peuvent produire du texte, mais pas de la vraie mémoire, de l’introspection, de l’erreur assumée. Elles écrivent, mais elles ne vivent pas. Et sans cette capacité à intégrer l’échec, à transformer une erreur en leçon, elles restent des perroquets sophistiqués.
Tworek n’est pas le premier à gueuler, mais venant d’un ancien d’OpenAI, ça pique un peu plus. Rappelle-toi, c’est la boîte qui promet l’AGI à coups de milliards et de sermons sur les risques existentiels. Et si leur propre technologie bute sur un truc aussi basique que l’apprentissage par l’erreur ? Ça jette un froid sur toute la hype.
Les commentaires sur HN sont éloquents : 2 points, 0 commentaires. Le sujet est technique, il fait pas rêver, mais il est crucial. Personne ne veut entendre que la révolution est en panne parce que les IA sont trop cons pour se souvenir de leurs conneries. Pourtant, c’est peut-être là que tout se joue.
Tworek suggère que sans mécanismes d’auto-correction robustes, on tourne en rond. On améliore les benchmarks, on gonfle les paramètres, on optimise les prompts. Mais si le modèle ne peut pas dire « merde, je me suis trompé, je vais ajuster », on reste dans la simulation. L’AGI ? Un mirage.
La question, c’est : est-ce qu’OpenAI, Anthropic, Google et les autres travaillent sur ce problème, ou est-ce qu’ils préfèrent l’ignorer en attendant la prochaine levée de fonds ? Tworek a quitté le navire, mais son analyse résonne comme un avertissement. Si les IA ne peuvent pas apprendre de leurs erreurs, elles ne seront jamais que des outils brillants, pas des assistants autonomes. Et pour une société dont le crédo est « Assistants, pas remplaçants », c’est un peu gênant.
Alors, on fait quoi ? On continue à jouer avec des modèles qui répètent leurs conneries, ou on se penche sérieusement sur la fragilité cognitive ? Tworek a donné son avis. À nous de voir si quelqu’un écoute.
Sources :
Comments are closed