Tu connais le délire : tu files un document confidentiel à ChatGPT pour qu’il t’aide à le synthétiser, et paf, une injection de prompt bien sentie dans le fichier fait causer le chatbot à un serveur tiers. C’est le cauchemar de toute entreprise qui touche à l’IA générative. OpenAI a sorti ce week-end un « Lockdown Mode » pour ChatGPT, et honnêtement, c’est le sparadrap sur une hémorragie.
Le principe ? Tu actives le mode dans les settings, et ChatGPT coupe tout accès au web, désactive Deep Research et Agent Mode – bref, il devient un gros LLM hors ligne, sans capacité d’aller chercher ou envoyer quoi que ce soit. Si un prompt injection tente de faire exfiltrer des données, le blocage se fait au dernier maillon de la chaîne : impossible de joindre un serveur distant. Mais comme le reconnaît OpenAI elle-même, ça n’empêche pas l’attaque en elle-même. Le prompt injection reste un problème non résolu. Lockdown Mode réduit juste la probabilité que les données sensibles soient partagées dans le processus.
Mettre un préservatif avec un micro-trou : tu réduis les risques, mais t’as pas intérêt à faire confiance aveuglément. Ce qu’on peut se demander, c’est pourquoi OpenAI met autant de temps à résoudre le problème à la racine. Mais bon, c’est plus simple de balancer une feature vitrine que de repenser l’architecture de tes modèles.
Pour qui ? Pour les entreprises qui traitent des données sensibles et veulent un minimum de garanties. Mais si tu bosses avec des documents ultra-confidentiels, tu devrais peut-être te tourner vers des solutions on-premise. ChatGPT reste un service cloud, et un mode verrouillé ne te protégera pas d’un employé malveillant ou d’une faille côté OpenAI.
Notre avis, c’est que C’est une rustine, pas une solution. Mais c’est mieux que rien. En attendant, si tu veux vraiment sécuriser tes échanges, tu fermes ta gueule et tu files tes docs à personne. Ou tu passes sur un LLM open source hébergé chez toi. Mais bon, tout le monde n’a pas les moyens de se payer un cluster.
Lockdown Mode est disponible dès maintenant sur ChatGPT. Testez-le, mais ne rangez pas vos ceintures de sécurité.
Comments are closed