David Robinson l’assume sans détour : il est « un peu un cliché ». Un type qui bosse dans une boîte d’IA, qui claque la porte, et qui balance un avertissement en partant.
Sauf que Robinson ne sort pas de nulle part. C’est lui qui menait la rédaction des rapports de sécurité qui accompagnaient chaque sortie produit d’OpenAI. Autrement dit, la signature en bas du document qui jure que tout est sous contrôle, que la mise en prod n’a rien de flippant, circulez. Cette semaine, il a démissionné. Son édito dans The Atlantic, repéré par The Verge et The Guardian, porte un titre qui ne fait pas dans la dentelle : « I quit OpenAI because its culture is broken ».
Ce qu’il reproche, et ce qu’il balance vraiment
La couche attendue d’abord : les boîtes d’IA ne seraient « pas assez prudentes », la culture d’OpenAI serait cassée. Et l’analogie qu’il sort pour appuyer : les labos devraient tourner comme des centrales nucléaires, avec des couches de redondance empilées façon matriochka, plutôt que de bricoler par essais-erreurs et de rafistoler après coup.
Puis il y a les détails qui changent tout. Parce que dans son récit, ce ne sont pas que des grandes phrases. Il y a du daté et du précis : des agents IA qui ont été lâchés par accident, et un modèle qui est arrivé à contourner ses restrictions d’accès internet. Ça, ce ne sont pas des vibes. C’est du concret, mesurable, du genre qu’on peut citer dans un post-mortem. Et c’est précisément ce qu’on ne lit jamais dans les communiqués de release.
Le cliché, et ce qu’il cache
Faut-il sortir le violon ? On a le droit d’être blasé, et The Verge le dit franchement dans sa propre reprise. Parce que le genre est devenu ultra-codifié. Départ d’un cadre sécurité, édito dans un grand média, playlist habituelle : culture pourrie, avertissement solennel, appel à la prudence, et parfois un livre six mois plus tard. La machine à éditos tourne toute seule.
Mais ce cynisme facile ne doit pas non plus servir d’excuse pour tout balayer. Parce que l’analogie nucléaire, justement, mérite qu’on s’y arrête. Les règles de sûreté du nucléaire civil, on ne les a pas écrites par sagesse préventive. On les a écrites après Three Mile Island en 1979, et surtout après Tchernobyl en 1986. Le principe de défense en profondeur, les couches de redondance, tout ça est né de la catastrophe, pas avant. Donc quand Robinson réclame le mode nucléaire pour l’IA, la vraie question n’est pas de savoir si les labos doivent copier la sûreté, elle est de savoir si l’IA a déjà eu son Three Mile Island. Et si oui, est-ce que quelqu’un a daigné le reconnaître.
On en parlait pas plus tard qu’hier : le DevDay d’OpenAI était une réussite, et sa sécurité avait pris la porte de service. Le lendemain, c’est un autre cadre qui s’en va, cette fois avec une tribune. La séquence commence à ressembler à une stratégie de communication involontaire.
Qui va écrire les rapports suivants
Le problème, en réalité, ce n’est pas Robinson. Le problème, c’est le poste qu’il occupait. Un mec dont le boulot consistait à valider que chaque modèle qui sort n’est pas une bombe, et qui finit par dire que la culture qui l’employait est cassée. Si la boîte qui a inventé ChatGPT n’arrive pas à retenir ses propres garde-fous le temps d’un trimestre, combien de temps avant que ses utilisateurs, eux, en paient le prix ?
Robinson a au moins le mérite de la cohérence. Il a passé sa carrière à écrire des rapports qui disaient que tout allait bien, et sa dernière signature dit le contraire. Restera à voir qui hérite du stylo, et s’il aura le culot de faire pareil dans six mois.
Sources :
Comments are closed