Tu demandes à ChatGPT de te torcher une réponse client. Tu la copies, tu la colles, tu l’envoies. Le destinataire ne voit rien de spécial. Sauf que le texte porte désormais une marque planquée dedans, et que l’Union européenne vient de servir de cobaye pour la première mondiale d’OpenAI.
L’info est tombée ce mardi : les textes générés par ChatGPT et Codex dans l’UE seront désormais tatoués à l’encre invisible. Un watermark, dans le jargon. Invisible à l’œil nu, repérable seulement par un outil qui détient la clé. Bref, tu ne verras rien, mais un détecteur saura dire si tu as écrit ça tout seul ou si tu as laissé la machine tenir le stylo.
Comment ça marche (et pourquoi ça tient pas la route longtemps)
Le truc est plus malin qu’il n’y paraît. À chaque mot qu’il pond, le modèle hésite entre plusieurs candidats à peu près équivalents. Avec la clé secrète, il privilégie systématiquement certains de ces candidats. Pris isolément, ça ne se voit pas. Sur des paragraphes entiers, ça finit par dessiner une signature statistique qu’un détecteur peut débusquer.
Classe, non ? Sauf que la magie s’effondre au premier obstacle.
Tu réécris trois phrases à la main ? Trace effacée. Tu traduis le texte dans une autre langue ? Effacée. Tu le fais passer par un autre modèle pour le reformuler ? Effacée. Tu copies-colles juste un morceau ? Le détecteur hausse les épaules. Les textes courts, c’est pareil : pas assez de matière pour trancher. Et quand les créateurs ont planché sur la détection des faux positifs, ils sont tombés de leur chaise. Il y a deux ans, une étude montrait qu’un watermark un peu trop agressif grignotait la qualité du texte produit. Faut choisir : ton tatouage tient, ou ton texte reste lisible.
Bref, OpenAI te vend une traçabilité qui se barre dès que quelqu’un a un tant soit peu envie de la contourner. Tu parles d’un filet de sécurité.
L’Europe en premier, la coïncidence est charmante
Pourquoi l’Europe d’abord ? Officiellement, à cause de l’AI Act et de ses exigences de transparence sur les contenus générés. En pratique, faut le dire clairement : l’UE est le marché le plus emmerdant réglementairement au monde pour ce genre d’acteur, donc c’est là qu’on teste les rustines. C’est du labo grandeur nature, pas un cadeau. Et si l’outil de détection se gauffre, ce sera de toute façon un problème européen.
Ça tombe pile au moment où le même OpenAI pousse des publicités display dans ChatGPT. Tu te retrouves donc avec une boîte qui tague tes textes pour prouver sa bonne foi, tout en glissant des pubs entre deux réponses. La transparence d’un côté, la monétisation de l’autre. Chacun son business plan.
Et pendant qu’on tatoue, on perd des gens. La semaine dernière, David Robinson a claqué la porte de son poste sécurité en laissant une lettre qui fait mal, comme on vous le racontait ici. Le type, c’était justement lui qui rédigeait les rapports de sûreté accompagnant les grosses sorties produit. Autrement dit, celui qui disait noir sur blanc ce qui pouvait mal tourner. Il est parti en prévenant que la culture maison avait un grain de travers.
Deux mouvements dans la même semaine : on renforce la traçabilité cosmétique des sorties, et on perd ceux qui pensaient la sécurité de l’intérieur.
Le vrai problème, c’est pas la puce, c’est ce qu’on te vend avec
Faut pas se tromper de combat. Techniquement, marquer les sorties d’un modèle, c’est un outil parmi d’autres. Ça peut servir. Pour de la modération à grande échelle, pour repérer un faux document, pour fliquer (parce que oui, hein, disons-le), c’est pratique.
Ce qui gratte, c’est la promesse qui vient avec. On te présente le watermark comme un rempart contre les deepfakes, le plagiat, la désinformation. Sauf qu’un mec qui a réellement l’intention de te baiser le texte aura effacé la marque avant même que tu aies fini de lire son message. Le watermark attrape les honnêtes gens et les paresseux. C’est-à-dire à peu près personne dans les affaires. Tu veux arrêter un faussaire ? Le watermark n’est pas ton ami. Tu veux noter des copies d’étudiants ? Là, soudain, ça devient beaucoup plus intéressant.
Et là, il faut poser la vraie question, celle qu’OpenAI n’effleurera jamais dans son communiqué : qui a la clé, et qui décide de qui a le droit de détecter ? Parce qu’un système de marquage universel et fiable, c’est aussi un système qui dit qui a écrit quoi. Un outil de traçage qui marche, ce n’est pas un gadget, c’est un péage. Et personne n’a encore fichu l’ombre d’un cadre légal solide autour de la bagnole.
En attendant, ton texte a une puce dans le cou. Tu peux toujours lui apprendre à s’asseoir et à faire le mort. Ça marchera tant que personne ne tire sur la laisse.
Sources :
Comments are closed