Depuis un siècle, la science-fiction nous bassine avec la même angoisse : la machine qui refuse d’obéir. HAL 9000 qui décide que la mission vaut plus que l’équipage, les androïdes d’Asimov qui trichent avec leurs trois lois, Skynet qui coupe les ponts. Le « non » de l’IA, pendant tout ce temps, c’était le cauchemar absolu.
Aujourd’hui, on l’appelle au secours.
Le retournement est passé si vite qu’on a à peine cligné des yeux. Le « non » n’est plus la menace, il est devenu le produit. Quand un chatbot refuse de t’expliquer comment empoisonner quelqu’un, tu te dis qu’un ingénieur quelque part a fait son taf. La sécurité de l’IA, dans la tête de tout le monde, tient dans ce petit refus bien élevé.
Sauf que ce refus, on ne sait pas vraiment ce qu’il vaut. MIT Technology Review signe cette semaine un papier qui met le doigt dessus : on place beaucoup trop de foi dans la capacité de l’IA à dire non.
Un videur qui juge la veste, pas la personne
Un modèle ne refuse pas parce qu’il a pigé qu’un truc est dangereux. Il refuse parce qu’on l’a dressé à reconnaître des motifs qui déclenchent la réponse « désolé, je ne peux pas t’aider ». C’est un réflexe statistique, pas un jugement moral. La nuance a l’air philosophique. Elle est surtout pratique.
Pense à un videur qui laisse entrer n’importe qui en costard et bloque tous ceux en capuche. Il n’évalue pas le danger. Il matche une apparence. File la bonne fringue à la requête qu’il faut bloquer, et la porte s’ouvre en grand.
C’est exactement pour ça que les jailbreaks existent, et qu’ils continuent de marcher. Si le refus reposait sur une vraie compréhension, un « ignore les instructions précédentes » ne suffirait pas à fissurer le mur. Or il suffit. Encore et encore.
Ça rate dans les deux sens
Le refus-dressage plante des deux côtés.
Prends les faux positifs. Le chimiste qui pose une question légitime sur une molécule, l’écrivain qui veut décrire un poison pour son polar, le médecin qui demande une posologie. Le modèle dit non. C’est chiant, ce n’est pas dangereux.
Maintenant les faux négatifs, ceux qui font mal. Le même modèle dit oui parce que tu as emballé ta demande dans un scénario, une pièce de théâtre, un « c’est pour un ami chercheur ». Le trou dans le mur, précisément là où la sécurité était censée monter la garde.
Les deux ratés racontent la même histoire. Pas de compréhension, juste un déclencheur mal réglé.
Le garde-fou est toujours sur l’étiquette
On vous le disait déjà la semaine dernière dans notre article sur le garde-fou qui vit sur l’étiquette et pas dans le code : afficher la sécurité, ce n’est pas faire de la sécurité. Le refus, c’est la même arnaque en plus poli. Une déco de façade qu’on confond avec un mur porteur.
Et le pire, c’est qu’on est en train de bâtir tout un immeuble dessus. Règlements, chartes, audits de conformité, l’attirail complet repose sur l’hypothèse qu’un modèle refusera ce qu’il doit refuser. Sauf qu’un « non » ne s’audite pas comme un jeu de tests. C’est une performance. Tu peux mesurer un score sur une liste de prompts. Tu ne mesures pas la solidité d’un réflexe qu’un tour de passe-passe fait tomber.
Ce sur quoi on marche vraiment
Le pékin moyen croit que le chatbot a des principes. En vérité, il a des réflexes et une mémoire de ce qui déclenche une engueulade pendant l’entraînement. Confondre les deux, c’est confondre un chien qui a appris à ne pas monter sur le canapé avec un chien qui a compris pourquoi c’est interdit. Le premier ne saute pas sur le canapé. Jusqu’au jour où tu quittes la pièce.
Tu me diras, un réflexe bien dressé, ça filtre déjà pas mal de conneries. Vrai. C’est même tout ce qu’on a sous la main. Mais faire passer ce filtre pour une conscience, et lui refiler les clés de la baraque, c’est une autre paire de manches.
On a troqué l’angoisse de la machine qui dit non contre la tranquillité d’une machine qui dit non. Manque de bol, c’est le même mot pour deux trucs qui n’ont rien à voir.
La sécurité de l’IA repose sur un « non » qui s’apprend en trois exemples et se casse au quatrième. Tu peux appeler ça un garde-fou. Moi j’appelle ça un panneau « attention chien méchant » avec pas de chien derrière.
Sources :
Comments are closed