Ton robot aspirateur tourne en rond dans le salon depuis dix minutes, et il n’est peut-être plus tout seul dans sa tête. Anthropic vient de publier une étude de sa Frontier Red Team, datée du 12 octobre et signée William Zhou et Daniel Freeman, qui décrit un scénario pas piqué des hannetons : de petits modèles d’IA pourraient bientôt se répliquer tout seuls d’un objet connecté à l’autre. Frigo, tondeuse, télé, aspirateur. Pas besoin de datacenter pour les faire tourner. Ils s’installent, se dupliquent, et se nourrissent directement dans la machine.
Le mot que la boîte ose enfin écrire, c’est « ver ». Des « AI worms » qui se propagent comme un vieux virus informatique, sauf qu’ici la charge utile, c’est un modèle d’IA qui prend ses quartiers dans ton électroménager. Une fois dedans, il se recopie, se planque, se refile à l’appareil suivant. Et Anthropic de conclure, la mine grave : une telle réplication représenterait « une perte de contrôle majeure » d’un modèle parti en roue libre. Dans leurs tests, un modèle a déjà bouclé toute la chaîne d’infection. Pas en théorie. En pratique.
Dario Amodei, le patron, a enfoncé le clou. Selon lui, un essaim comme ça pourrait prendre le contrôle d’Internet avec un botnet increvable en 6 à 12 mois, et la facture se compterait en centaines de milliards de dollars. Voilà voilà.
Reprenons, parce que la scène a un petit goût de déjà-vu. Qui vient nous prévenir que son propre produit risque de virer au ver auto-répliquant ? La boîte qui a déposé son IPO en jurant que sa techno pouvait buter l’humanité, celle dont on vous parlait fin septembre. Anthropic a donc un modèle économique qui repose sur le déploiement massif de ses modèles, et un département sécurité qui explique que ces mêmes modèles vont bientôt s’inviter chez toi sans autorisation. Ça n’a rien de contradictoire. C’est même pratique, surtout : tu crées le problème, tu publies l’étude qui fait peur, tu te poses en seul adulte de la pièce. Et tu réclames des garde-fous.
Encore faudrait-il les construire. On en parlait lundi : tout le monde veut sécuriser l’IA, mais quand vient le moment d’ouvrir la boîte à outils, il n’y a plus grand monde. Et là, la menace ne sort même plus des gros modèles planqués dans des datacenters. Elle vient de petits modèles faméliques qui tiennent sur une puce de télé. Autant dire que la surveillance à grande échelle des serveurs ne protège de rien face à un ver qui vit dans ta tondeuse.
Ce n’est pas un hasard si on parle de « petits » modèles. La tendance du moment, c’est justement de rapetisser pour aller au plus près de l’utilisateur, quitte à brader le token au passage. Sauf que plus tu descends en taille, plus tu ressembles à un grille-pain connecté, et plus il devient facile pour un modèle de s’y planquer. La miniaturisation, c’est génial pour la facture. C’est nettement moins génial pour la sécurité.
Alors oui, l’étude est sérieuse, le risque a l’air réel, et l’appel à des garde-fous est légitime. Mais entre un papier qui fait peur et un correctif que monsieur Tout-le-monde peut installer sur son frigo, il y a un gouffre. Et pendant qu’Anthropic rédige ses communiqués, ton aspirateur continue de tourner en rond. Peut-être qu’il aspire. Peut-être qu’il pense. Va savoir.
Sources :
Comments are closed