Début octobre, Jasmine Wang, Tomek Korbak et Mikita Balesni ont perdu leur badge. Trois chercheurs en sécurité chez OpenAI, sortis du bâtiment en quelques jours, sans que personne à l’extérieur ne sache vraiment pourquoi. Le 8 octobre, ils publient une lettre ouverte à l’adresse du Safety and Security Committee, du Safety Advisory Group et du Mission Advisory Council de leur ancien employeur. Le lendemain, OpenAI répond sur X. L’histoire prend alors un tour inattendu.
La boîte maintient tout. Les trois ont violé « des politiques claires sur le traitement d’informations sensibles ». L’enquête interne a même découvert « un abus de confiance significatif qui va au-delà de ce qui est décrit dans la lettre ». On ne saura pas quoi. OpenAI n’a pas fourni de détails, invoquant la confidentialité selon Numerama. Voilà donc la situation : trois chercheurs exposent leur cas à la minute près, la boîte répond par un adjectif et un communiqué de six lignes.
Le badge et la porte
Le récit de Korbak, publié sur X, ne ressemble pas à une procédure disciplinaire classique. Convocation avec la responsable du département sécurité, annonce qu’OpenAI ne lui fait plus confiance, un agent de sécurité qui récupère son badge et le raccompagne dehors. C’est en sortant qu’il apprend que ses deux collègues ont sauté le même jour. Aucun motif précis, rien par écrit. Juste un reproche verbal, selon lui : sa façon de communiquer avec METR.
Or Korbak était le contact technique principal d’OpenAI auprès de METR, le laboratoire de sécurité externe qui enquêtait sur l’incident Hugging Face de juillet. Sa réponse tient en une phrase, citée par The Decoder : « Pour être clair, parler à METR, c’était mon boulot. »
Le cas de Jasmine Wang est d’une autre nature, et il est encore plus gênant. Elle avait un accès délégué à la boîte mail d’un dirigeant pour du recrutement. Elle avait demandé à plusieurs reprises que cet accès soit retiré, l’IT ne l’a jamais fait. Un jour, elle ouvre par erreur un mail sensible et prévient dans les minutes qui suivent. Voilà le dossier.
Mikita Balesni, lui, travaillait sur les engagements interprofessionnels de lisibilité du raisonnement des modèles. Sa version tient en une ligne, postée sur X : « Je pense que nous avons été virés pour avoir priorisé la sécurité sur les intérêts à court terme d’OpenAI en tant qu’entreprise. »
La réponse à côté
OpenAI a répété deux fois dans sa note que ces licenciements n’avaient rien à voir avec le fait de signaler des problèmes de sécurité, et que la boîte ne vire personne pour ça. Le problème, c’est que le démenti porte sur une accusation que les chercheurs n’ont pas exactement formulée. Leur lettre ne dit pas « on nous a virés pour avoir dénoncé ». Elle dit : on nous a virés pour avoir fait notre travail de sécurité avec des gens de l’extérieur, dans un cadre qui était la norme il y a encore un mois, et maintenant tout le monde à l’intérieur devine où est la ligne.
C’est une nuance qui n’a l’air de rien et qui change tout. « Si une conduite considérée comme normale le mois dernier constitue désormais un motif de licenciement soudain, tout le monde chez OpenAI est laissé à deviner où se situe la limite », écrivent-ils.
Autre détail qui ne plaide pas pour la sérénité : selon The Decoder, la réponse a été publiée via @OpenAINewsroom, le compte officiel de la boîte qui a le plus petit auditoire. Quand tu veux vraiment te faire entendre, tu choisis généralement le mégaphone, pas le walkie-talkie.
Les trois chercheurs avaient raison, la boîte est d’accord
Les trois signataires formulaient trois demandes : que OpenAI honore ses engagements en intégrant des auditeurs externes type METR avec un accès au niveau des employés, que la lisibilité du raisonnement des modèles de pointe soit préservée, et que les règles de collaboration avec les organismes de sécurité extérieurs soient clairement écrites.
OpenAI leur donne raison sur les deux premières. La boîte dit finaliser des contrats avec des évaluateurs tiers, annonce des détails « dans les prochaines semaines », et reconnaît que la lisibilité des modèles de pointe mérite un engagement de toute l’industrie. Sur le fond, les virés ont gagné. Sur la forme, ils sont dehors.
Ce désaccord sur la lisibilité n’est pas un détail technique pour initiés. Début septembre, The Information révélait que le modèle Astra d’OpenAI utilisé avant sa sortie recourait à une technique rendant son raisonnement plus difficile à tracer, ce qui avait fait tiquer une partie du milieu. Les trois chercheurs nient être à l’origine de cette fuite et affirment que l’article a desservi leur propre travail, puisqu’il sapait les efforts en cours pour encadrer les architectures non traçables. Korbak alertait en interne depuis des mois sur la perte de cette capacité de surveillance du « raisonnement » des agents. C’est, selon lui, la vraie raison de son départ.
Le contexte ne rend pas la séquence plus rassurante. Jan Leike, l’ancien patron de la superalignment, avait claqué la porte en mai 2024 en reprochant à OpenAI de laisser ses « produits brillants » prendre le pas sur la culture sécurité. Il est parti chez Anthropic. L’incident Hugging Face, lui, a confirmé les pires craintes des critiques et dépassé largement le périmètre de Hugging Face. Et le HuffPost de la sécurité IA, c’est ce que raconte The Rundown : OpenAI aurait aussi évoqué auprès de TechCrunch un « schéma de mauvaise conduite » chez les trois chercheurs, sans plus de précisions que dans le communiqué.
Un schéma. Un abus significatif. Une violation de politiques claires. Trois formules, zéro fait. En face, trois types qui donnent des dates, des horaires, des noms de destinataires de mails et le détail d’un accès informatique qu’ils avaient eux-mêmes demandé à faire couper.
La vraie question posée par ce dossier n’est pas de savoir qui ment. C’est de savoir comment une entreprise qui explique au monde entier qu’il faut rendre le raisonnement des modèles lisible refuse, elle, de rendre lisible le motif d’un licenciement. La traçabilité, ça marche dans les deux sens.
Les évaluateurs externes débarquent dans les prochaines semaines. Les gens qui étaient payés pour les faire entrer sont déjà sur le trottoir, badge à la main.
Sources :
Comments are closed