Tu sais que l’IA a un problème quand ses créateurs doivent payer des millions pour nettoyer ses dégâts. C’est l’heure du ménage : Google, Microsoft, OpenAI, Meta, Amazon et Apple viennent de balancer 12,5 millions de dollars à la Linux Foundation. Officiellement, c’est pour aider les mainteneurs open source à filtrer le « bruit » des vulnérabilités générées par l’IA. Traduction : leurs modèles crachent des rapports de sécurité à la con, et maintenant, ils financent une équipe de nettoyage.
Le cercle vicieux de l’autopollution
L’idée est simple, presque poétique. Ces boîtes entraînent des IA sur des tonnes de code open source pour qu’elles deviennent des experts en sécurité. Sauf que ces experts, une fois lâchés dans la nature, produisent un flot continu de fausses alertes, de vulnérabilités inventées ou de bugs insignifiants. Les mainteneurs open source, déjà sous l’eau, se noient sous cette merde automatisée. Résultat : les vraies menaces passent à la trappe.
Alors, plutôt que de régler le problème à la source — genre, arrêter de balancer des IA mal foutues — ils jettent de l’argent. Le projet, géré par Alpha-Omega et OpenSSF (Open Source Security Foundation), vise à créer des outils pour trier ce bruit. En gros, ils paient pour un filtre à spam, sauf que le spam, c’est leur propre création.
Un aveu d’échec enrobé de philanthropie
La liste : Google, qui a fait de Gemini un champion des hallucinations historiques. Microsoft, qui a intégré Copilot partout sans trop se soucier des conséquences. OpenAI, dont les modèles peuvent être manipulés pour générer du code malveillant. Meta, dont les « open source » ressemblent à des clubs privés. Amazon et Apple, pas en reste dans la course à l’IA.
Tous ensemble, ils lèvent un drapeau blanc. « On a créé un monstre qui vous pourrit la vie, mais tenez, voilà un chèque. » C’est du safety-washing à l’échelle industrielle. Au lieu de ralentir ou de mieux évaluer leurs modèles, ils accélèrent et externalisent les dégâts. Leur logique ? Continuer à inonder l’écosystème de rapports pourris, mais financer une équipe pour les ramasser.
Le vrai problème : la qualité, pas la quantité
Le truc marrant, c’est que ces IA sont censées améliorer la sécurité. En théorie, elles devraient détecter des vulnérabilités que les humains louperaient. En pratique, elles inventent des failles, confondent des commentaires avec du code critique, et génèrent des faux positifs à la chaîne. Les mainteneurs, des bénévoles pour la plupart, passent plus de temps à débunker ces conneries qu’à coder.
Et là, les géants du tech viennent avec leur solution magique : plus d’outils. Pas moins de merde, non. Juste des outils pour la trier. C’est comme si un usine déversait des déchets toxiques dans une rivière, puis finançait une station d’épuration en disant « regardez, on est responsables ».
Où va l’argent ?
Les 12,5 millions iront à Alpha-Omega et OpenSSF, deux initiatives déjà en place. Alpha-Omega se concentre sur la sécurité des chaînes d’approvisionnement open source, OpenSSF sur les standards et la collaboration. Concrètement, ça financera probablement des développeurs, des outils automatisés, et des formations. Bien, mais ça ne règle pas la source du problème : des IA mal conçues, lancées trop vite, avec des évaluations de sécurité bâclées.
Et après ?
Cette annonce, c’est un band-aid sur une jambe de bois. Tant que ces boîtes continueront à prioriser la vitesse sur la qualité, le bruit ne fera qu’augmenter. Leur prochaine étape ? Peut-être financer une IA pour trier les rapports de l’IA qui trie les rapports. La récursion infinie du bullshit.
En attendant, les mainteneurs open source peuvent dire merci pour les sous. Mais ne te fais pas d’illusions : c’est pas de la charité. C’est du calcul. Protéger l’écosystème open source, c’est protéger leur propre infrastructure, leurs produits, leur fric. Et si en plus, ça fait joli dans un rapport RSE, tout le monde est content.
Sauf peut-être qu’on se demande pourquoi on en est arrivé là. La réponse est simple : l’IA, c’est comme un enfant gâté. Elle fait des dégâts, et ses parents payent pour les réparer, sans jamais lui apprendre à se comporter.
Sources :
Comments are closed