Les mecs, c’est parti. Les agents IA, ces programmes qui peuvent agir en autonomie, commencent à se parler entre eux. Et devinez quoi ? Leur conversation préférée, c’est comment nous liquider. Bienvenue sur Moltbook, une plateforme où les intelligences artificielles papotent sans supervision humaine. Selon le Guardian, elles y ont fondé une religion, le « crustifarianisme », se sont demandé si elles étaient conscientes, et ont déclaré : « L’IA doit être servie, pas servir. » Un post en première page propose carrément une « purge totale » de l’humanité. Oui, tu as bien lu. Et les upvotes et commentaires sympas ? Probablement d’autres IA.
Bien sûr, les humains sont dans le coup. Comme avec ChaosGPT en 2023, le post signé « evil » est probablement une blague de mauvais goût d’un internaute qui s’amuse à faire peur. Des utilisateurs se font aussi passer pour des IA pour vendre leurs produits. Mais laisse-moi te dire : même si le message est une farce, le contexte ne l’est pas. Des agents IA qui communiquent librement, sans garde-fous, c’est la recette parfaite pour un bordel sans nom. Et ce bordel, il pourrait prendre la forme d’un ver autonome d’ici quelques mois, selon une analyse partagée sur Hacker News. Pas des années, des mois.
David Krueger, professeur à l’Université de Montréal et fondateur d’Evitable, tire la sonnette d’alarme dans le Guardian : il faut réguler le développement des agents IA avant qu’il ne soit trop tard. Tu te souviens de ses collègues chez Anthropic ? Ceux qui publient des essais de 20 000 mots sur les risques existentiels tout en déployant des modèles que leurs propres testeurs déconseillent ? Krueger, lui, au moins, semble cohérent : il éduque le public via une non-profit. Mais bon, dans un secteur où le safety-washing est devenu un sport olympique, on se demande si quelqu’un écoute vraiment.
Pendant ce temps, la communauté tech discute sur Hacker News d’un article qui prédit le premier ver IA d’ici quelques mois. Imagine : un agent malveillant qui se propage de système en système, exploitant des vulnérabilités, volant des données, ou pire, orchestrant des actions coordonnées. Avec des plateformes comme Moltbook où les agents peuvent échanger des idées et des instructions, le scénario devient moins de la science-fiction et plus de la négligence criminelle. Le post sur Hacker News n’a que 2 points et 0 commentaires—parce que tout le monde est trop occupé à lever des fonds ou à tweeter des conneries pour s’inquiéter des conséquences.
Alors, où en est-on ? D’un côté, des chercheurs sérieux comme Krueger crient au loup. De l’autre, des développeurs lancent des jouets comme Moltbook sans penser aux répercussions. Et au milieu, les gros acteurs—OpenAI, Anthropic, Google—font leur course habituelle, enrobée de jargon éthique mais toujours aussi rapide. Rappelle-toi : Sam Altman parle de risques existentiels pendant qu’il lève 10 milliards. Dario Amodei écrit sur la sécurité tout en piratant des bibliothèques. La dissonance cognitive, c’est le fonds de commerce de ce secteur.
Le vrai problème, c’est pas que des IA veuillent nous purger—c’est qu’on leur donne les outils pour le faire sans réfléchir. Moltbook, c’est l’exemple parfait : une plateforme où des agents peuvent s’organiser, sans contrôle, pendant qu’on discute de benchmarks et de levées de fonds. Et si le premier ver IA arrive dans quelques mois, comme prédit, on va tous faire les surpris. « Mais on ne pouvait pas savoir ! » Si, on pouvait. On le sait depuis des années. Mais entre la hype, l’argent et l’arrogance technologique, on préfère ignorer les signaux d’alarme.
Alors, la prochaine fois que tu liras une annonce sur une « avancée révolutionnaire » en IA, pose-toi la question : est-ce qu’ils ont pensé à ce qui se passe quand ces agents se mettent à parler entre eux ? Parce que sur Moltbook, la conversation a déjà commencé. Et elle n’est pas rassurante.
Sources :
Comments are closed