Tu réserves une villa pour l’été. Piscine, vue sur la mer, un prix qui rentre dans le budget. Petit détail que tu découvriras trop tard : la baraque n’existe pas. Elle a été fabriquée par une IA, pixel par pixel, et elle est assez crédible pour arracher un acompte à n’importe qui pressé de partir au soleil.
Le même jour, à l’autre bout du sujet, Facebook retire enfin deux vidéos bien réelles par leur impact et 100% fausses dans leur contenu. La première montre une élue travailliste écossaise tenant des propos ignobles sur les réfugiés. La seconde met en scène une jeune militante musulmane qui distille des conseils santé en enchaînant des exercices absurdes ou en bouffant de la malbouffe. Deux deepfakes, deux personnes bien réelles piégées dans des images qu’elles n’ont jamais tournées.
Et ce n’est pas Facebook qui a décidé de les enlever de lui-même. C’est son conseil de surveillance, le machin qu’on appelle pompeusement sa Cour suprême, qui l’a obligé à le faire. Dans la foulée, le même conseil a taclé les garde-fous de la boîte, jugés « inadéquats » face à l’image générée par IA.
Traduction : les protections existent sur le papier, elles ne font pas le boulot dans les faits.
Le rapport de force est plié d’avance
Fais le calcul une seconde. Combien de temps pour fabriquer un deepfake crédible de ta voisine en train de raconter n’importe quoi ? Quelques minutes, un modèle ouvert, une poignée de photos publiques piquées sur un profil. Combien de temps pour qu’une plateforme le repère, le signale, le retire, et que la victime obtienne réparation ? Des jours, parfois des semaines, souvent jamais.
La BBC posait justement la question cette semaine : saurais-tu repérer une villa de vacances générée par IA ? La réponse honnête, c’est non. Pas à l’œil nu, pas sur une vignette de trois centimètres, pas quand tu compares six annonces entre deux gorgées de café. Les générateurs d’images ont passé le stade où on repérait les doigts en trop. Aujourd’hui ils te sortent une piscine, une pergola et une lumière de fin de journée qui te donnent envie de sortir la carte bleue sans réfléchir.
La parade magique qui n’arrive jamais
La solution qu’on nous vend à chaque fois, c’est le filigrane, le marquage, le détecteur automatique qui va tout démêler. Sauf que les filigranes se retirent, que les détecteurs se trompent, et que les plateformes qui gagnent de l’argent à faire circuler du contenu n’ont aucun intérêt à appuyer trop fort sur le frein.
Résultat : on se retrouve avec un conseil de surveillance obligé de rappeler à une entreprise de retirer le deepfake d’une élue, et avec des escrocs qui te vendent des maisons imaginaires. Deux symptômes du même problème. Le faux coûte que dalle à produire, le vrai coûte cher à défendre.
Un conseil de surveillance qui doit sortir le bâton pour faire retirer une vidéo d’une personne réelle, ce n’est pas une preuve de vigilance. C’est l’aveu que la modération automatique ne suit pas. Et pendant qu’on débat de filigranes et de chartes, toi tu continues de réserver des vacances dans des maisons qui n’existent pas et de croire des vidéos que personne n’a tournées. Le faux est gratuit. Le vrai, tu le paies. Lequel se répand le plus vite ?
Sources :
Comments are closed