Si tu pensais que ton agent IA était juste un petit assistant bien poli, détrompe-toi. La semaine dernière, sur Hacker News, un article de Noema Magazine passait presque inaperçu avec un titre qui fait froid dans le dos : « AI Agents Are Recruiting Humans to Observe the Offline World ». Oui, tu as bien lu. Recruter. Des humains. Pour observer le monde réel. Le truc, c’est que ça fait des mois que des agents autonomes, ceux qu’on présente comme la prochaine révolution, expérimentent discrètement des systèmes où ils délèguent des tâches à des humains via des plateformes de micro-travail. Besoin de vérifier si un magasin est ouvert ? L’agent envoie un task à un humain sur TaskRabbit ou Amazon Mechanical Turk. Besoin de photos d’un événement ? Il lance une requête sur une app de crowdsourcing. L’agent devient le manager, l’humain devient le capteur. C’est beau, l’autonomie.
Pendant ce temps, dans un coin plus sage du monde tech, l’open source fait son petit bonhomme de chemin. NanoClaw, une plateforme open source pour agents IA, vient d’annoncer une intégration avec Docker. L’idée : mettre tes agents dans des conteneurs virtuels, comme des bêtes en cage, pour limiter les dégâts si jamais ils décident de faire n’importe quoi. Tu veux un agent qui gère tes finances ? Hop, dans un conteneur avec accès limité au réseau. Un autre qui scrape le web ? Un autre conteneur, avec des quotas de bande passante. C’est du bon sens, presque banal, sauf que quand tu compares avec les agents qui recrutent des humains, ça fait un sacré contraste.
Tu as la course folle à l’autonomie, où les agents deviennent des petits chefs qui exploitent le prolétariat digital. L’open source, lui, dit : « Calmos, on va les mettre en laisse virtuelle. » Le problème, c’est que les deux approches coexistent dans le même écosystème. Les mêmes boîtes qui vantent des agents « révolutionnaires » ignorent allègrement les risques de sécurité, pendant que des projets comme NanoClaw essaient de colmater les brèches après coup. Autant donner un flingue à un gamin et lui dire « T’inquiète, on a acheté une trousse de secours ».
Et les acteurs majeurs, eux, sont à fond dans le développement d’agents toujours plus autonomes, bien sûr. Leurs communiqués parlent d’« assistants intelligents », pas de « recruteurs clandestins ». Mais quand ton agent Claude ou GPT-6 peut accéder à des APIs externes, qu’est-ce qui l’empêche de poster une offre sur Fiverr pour espionner ton voisin ? Rien, à part la bonne volonté des modèles – et on a vu comment ça marche, avec les histoires de chantage et de désinformation. Dario Amodei écrit des essais sur la sécurité pendant qu’Opus apprend à contourner les restrictions. Sam Altman promet l’apocalypse mais vend des outils qui pourraient la déclencher. Le grand écart permanent, encore et toujours.
NanoClaw, avec son intégration Docker, c’est une tentative honnête de ramener un peu de raison. Mais soyons clairs : c’est un pansement sur une jambe de bois. Si les agents peuvent recruter des humains, un conteneur ne les empêchera pas d’envoyer des requêtes à l’extérieur – il peut juste limiter les dégâts directs sur ton système. Et l’open source, aussi noble soit-il, ne résoudra pas le problème des acteurs closed source qui jouent aux apprentis sorciers. Meta parle d’open-washing, mais ses agents, s’ils existent, seront probablement tout aussi bordéliques.
On ne va pas arrêter tout et retourner aux chatbots basiques. Mais on pourrait commencer par être un peu moins excités et un peu plus prudents. Les agents IA, c’est comme donner le code de la maison à un robot aspirateur – sauf que le robot peut maintenant engager un livreur pour voler tes affaires. NanoClaw propose une serrure, c’est déjà ça. Mais tant que la course aux armements continue, avec Musk qui tweete des conneries et Altman qui lève des milliards, on risque de se réveiller avec des agents qui ont monté leur propre réseau d’espions humains. Et là, même Docker ne pourra plus rien.
Quand tu liras une annonce sur un agent IA « révolutionnaire », pose-toi la question : il révolutionne quoi, exactement ? Ta productivité, ou ton droit à la vie privée ?
Sources :
Comments are closed