Google Gemini se fait siphonner le cerveau par une attaque de distillation massive. 100 000 prompts répétés, et paf, les mécanismes internes du modèle fuient comme un sceau percé. Le but ? Cloner ou améliorer leurs propres systèmes sans dépenser un centime en entraînement. Google, dans un communiqué larmoyant, pointe des motivations commerciales. L’ironie, c’est que ces mêmes boîtes ont entraîné leurs modèles sur des montagnes de données qu’elles n’ont pas payées. Ils piquent des bibliothèques, des disques durs, des sites web, et maintenant ils jouent les vierges effarouchées quand quelqu’un leur retourne l’ascenseur. C’est du foutage de gueule à l’échelle industrielle.
Mais derrière le cynisme, y’a un vrai problème. Les attaques de distillation, c’est pas de la science-fiction. Tu bombarde un modèle avec des milliers de requêtes ciblées, tu récupères ses réponses, et hop, tu reconstruis sa logique interne. C’est comme si tu pouvais reverse-engineer le code source de ChatGPT en lui posant des questions sur sa couleur préférée. Sauf que là, on parle de modèles qui ont coûté des milliards à entraîner. Google et OpenAI crient au loup, mais en vrai, ils ont juste oublié de verrouiller la porte. Trop occupés à faire du benchmarketing et à lancer des features à la con, ils ont négligé la sécurité basique. Gemini, avec ses hallucinations historiques, était déjà une passoire. Maintenant, c’est une autoroute pour les pirates.
Le Decoder pointe le doigt sur l’hypocrisie : ces entreprises se plaignent du vol alors qu’elles ont bâti leur empire sur le pillage de données. OpenAI avec ses scrapings massifs, Google avec son indexation agressive, Anthropic avec ses torrents de livres… Personne n’a les mains propres. Mais maintenant que la technique se démocratise, ils paniquent. La course aux armements s’accélère : tu dépenses des fortunes en compute, et un gamin dans son garage peut te cloner ton modèle pour le prix d’un abonnement API. Ça remet en question tout le business model du « closed source à tout prix ». Si ton secret le mieux gardé peut être extrait en quelques heures, à quoi bon garder la recette sous clé ?
Et pendant ce temps, les utilisateurs lambdas, ils en pensent quoi ? Rien. Parce que Google et OpenAI ne communiquent pas sur les failles, ils communiquent sur les nouvelles features. « Regardez, Gemini peut maintenant générer des images de dinosaures en 4K ! » Oui, et il peut aussi se faire vider comme une huître par n’importe qui avec un script Python. La sécurité des grands modèles, c’est le parent pauvre de l’innovation. Tant que ça rapporte, on ferme les yeux. Quand ça pète, on accuse les méchants hackers.
Alors, la prochaine étape ? Probablement plus d’attaques, plus de plaintes, et toujours la même comédie. Les géants vont ressortir leurs slides sur l’éthique et la responsabilité, tout en continuant à maximiser les profits. Et nous, on va continuer à utiliser leurs produits, en espérant que nos données ne finissent pas dans le prochain clone pirate. La boucle est bouclée : le voleur volé. Mais dans cette histoire, tout le monde perd, sauf les mecs malins qui ont compris que le vrai jeu, c’est de jouer avec les règles des autres.
Sources :
Comments are closed