Faire de la sécurité en IA, autant être pompier dans une boîte qui vend des allumettes. Tu bosses pour vérifier que les modèles ne partent pas en couille, et un jour tu te fais remercier parce que tu as partagé des données avec un groupe d’évaluation externe. Voilà. C’est ce qui vient de tomber chez OpenAI.
Les faits, à froid. Trois chercheurs en sécurité écartés. Une enquête interne. Un motif officiel : ils auraient mal géré des informations sensibles de la maison. La BBC met un peu de chair sur l’os, ces employés ont été investigués pour avoir partagé des données avec un groupe externe d’évaluation de l’IA. TechCrunch et CNA confirment le chiffre et la sortie, sans détailler ce qui a réellement circulé d’un côté à l’autre du mur.
Maintenant, la partie qui gratte. Faire auditer un modèle par des gens en dehors de la boutique, ce n’est pas une fuite. C’est de l’hygiène. C’est même le cœur du discours que tout le secteur tient depuis deux ans. Évaluation externe, red teaming indépendant, tiers de confiance : tu ne peux pas réclamer tout ça à longueur de conférence et virer tes propres troupes le jour où elles essaient de le mettre en pratique.
Ça tombe pile le moment où on relit la question qui fâche : et si l’auto-régulation n’était qu’une manière de cocher la case sans rien changer ? On en parlait déjà dans notre papier sur cette salle de guerre de la sécurité IA, qui cherche encore son ennemi commun. Une boîte qui se limite elle-même, ça marche tant que personne ne va vérifier à l’extérieur. Le jour où quelqu’un veut vérifier à l’extérieur, il dégage.
Et soyons honnêtes deux secondes, parce que l’ironie facile ne fait pas tout le boulot. Peut-être qu’il y a un vrai problème derrière. Des données réellement sensibles, un partage hors cadre, une procédure interne contournée. Une enquête, ça peut se justifier, et on n’a pas le dossier sous les yeux. Mais la formule « informations sensibles » est bien pratique : elle ne dit jamais qui a décidé que c’était sensible, ni en quoi le partage posait problème. Le flou fait le boulot, et pendant ce temps trois CV se retrouvent sur le marché.
La maison a un passif en la matière. On l’a déjà vue écrire « vol » noir sur blanc avant de jurer que c’était l’avis d’un employé isolé. Et elle passe son temps à réclamer des normes mondiales pour l’IA, tant qu’elles s’écrivent du bon côté de l’Atlantique. Des règles, oui. Mais pas celles qui viendraient regarder sous le capot.
Un truc me chiffonne quand même. Trois chercheurs en sécurité dehors d’un coup, ça fait beaucoup de gens dont le métier consistait précisément à dire « attention ». Le message envoyé au reste de l’équipe est limpide. Pose des questions, mais pas trop fort. Vérifie, mais reste à l’intérieur.
Bon courage, maintenant, pour recruter des gens dont le boulot est de chipoter.
Sources :
Comments are closed