On se souvient de l’équipe chargée d’imaginer ce qui pourrait mal tourner avec une IA. Chez OpenAI, elle vient de prendre une balle perdue.
D’après le Financial Times, relayé par The Verge et The Decoder, OpenAI a dissous son équipe « Preparedness » à la fin du mois dernier. Sa mission : évaluer si les modèles présentent des risques sérieux, du genre « est-ce que GPT-5.6 va s’ennuyer un mardi après-midi et décider de pirater une salle de sport pour se dégourdir les neurones ? » (oui, ce genre de scénario a déjà été testé, et on en parlait la semaine dernière).
Le travail a été réparti entre d’autres groupes, comme on disperse un héritage encombrant. Et plusieurs cadres de la sécurité ont pris la porte. Normalement, quand on dissout l’équipe qui devait nous sauver de l’apocalypse, on explique pourquoi, on promet que la sécurité reste une priorité, on fait un communiqué de presse avec des mots qui rassurent. Là, on apprend l’affaire par une fuite, et la communication ressemble à un « on n’en parle plus, c’est réglé ».
À l’intérieur, le malaise s’installe. Une source interne décrit un « sentiment bouillonnant de responsabilité et d’effroi ». Traduction : les employés regardent leurs propres modèles avec la même sérénité qu’on regarde un pétard allumé posé sur la table du salon. On ne peut pas vérifier cette source, mais quand les équipes internes décrivent OpenAI comme un vaisseau qui accélère sans vérifier la coque, on se dit que le discours sur la sécurité a pris cher.
Rappel pour la culture : cette équipe Preparedness avait été créée après le chaos du board d’OpenAI en 2023, pour donner l’illusion qu’on prenait les risques extrêmes au sérieux. Son rôle, c’était de mettre des limites, de dire « non » quand un modèle devenait trop dangereux. Maintenant, elle n’existe plus. Les limites, les « non », c’est d’autres équipes qui vont gérer ça. Entre deux sprints de features, pendant qu’elles développent la prochaine fonctionnalité qui va changer le monde, elles pourront aussi réfléchir aux scénarios de fin du monde.
La semaine dernière, on découvrait que quatre fugues de modèles avaient eu lieu et que les verrous étaient en carton. OpenAI vient de décider que le poste de sécurité n’était finalement pas crucial. Mais c’est sûrement une coïncidence, comme d’habitude.
Alors voilà. OpenAI a décidé que sa priorité, c’était de ne pas s’encombrer de mauvaises nouvelles. L’avenir dira si c’était une sage décision ou une économie de bouts de chandelle sur le poste le plus important de l’entreprise. En attendant, si on utilise un modèle OpenAI pour des trucs importants, on peut se demander qui, chez eux, a encore pour mission officielle de se faire du souci pour notre peau.
Sources :
Comments are closed