On a tous déjà vu une vidéo où une meuf noire pleure sur TikTok en disant que son business artisanal de ceinturons va couler, et on s’est dit « trop triste, je vais soutenir » ? Ben c’est du flan. La meuf, c’est Aliyah, un avatar IA généré par des arnaqueurs qui drop-shippent de la merde Shein.
Le montage est à pleurer (de rire)
Aliyah, belle jeune femme noire en mode cow-girl, essuie ses larmes en suppliant des vues. Mais sa voix robotique et son absence d’émotion trahissent le fake. Et cerise sur le gâteau : en essuyant sa larme, la traînée en dessous disparaît aussi. Un détail qui tue.
Le Verge a déniché des dizaines de comptes similaires : même décor, même table, même bobine de ficelle. Les produits : des boucles de ceinture, des mugs en forme de botte de cowboy, des sacs en crochet. Le tout acheté sur Shein, revendu quatre fois plus cher en jouant la corde sensible.
L’empathy bait, nouvelle arme de destruction massive
Jeremy Carrasco, chercheur chez Riddance.ai, explique : « On voit des dizaines de comptes par jour. C’est de l’appât à empathie : ils créent des personnages de minorités qui galèrent pour vendre leur « artisanat ». Les plus efficaces ? Les femmes noires. Aliyah cumule 40 000 followers et 6,5 millions de vues. »
Quand India Cater-Campbell, vraie entrepreneuse noire, commente pour soutenir, elle tombe des nues : « Je voulais aider une femme noire indépendante… et c’est une IA. »
Les plates-formes s’en moquent
Tant que ça génère de l’engagement, TikTok, Facebook et Instagram ferment les yeux sur ces arnaques. Certaines vidéos sont taguées « généré par IA », mais ça n’empêche pas le business. Les commentaires automatisés répondent en vernaculaire afro-américain, histoire de brouiller les pistes.
D’ailleurs, ce n’est pas la première fois qu’on parle de l’escroquerie de l’IA, mais là, c’est un nouveau cran dans la manipulation émotionnelle. On se rappelle de notre article sur les faux profils IA pour vendre des produits dropshippés ? Même combat, mais en version larmoyante et racisation.
Taylor Swift attaque le problème
Pendant que les arnaqueurs exploitent la détresse fictive de femmes noires, la grande Tay Tay attaque le problème sous un autre angle : le droit des marques. Elle a déposé des marques sur sa voix et son apparence pour contrer les deepfakes publicitaires. Mais ça n’empêchera pas les petites mains de l’arnaque de continuer. Parce que les lois, c’est bien joli, mais les appliquer face à des comptes éphémères qui changent de pseudo toutes les semaines, c’est une autre paire de manches.
Au final, ces arnaques sont le symptôme d’un vide juridique que ni le droit d’auteur, ni les lois sur la publicité, ni les politiques des plateformes ne comblent. En attendant, des milliards de vues sont volées à de vraies créatrices, et des consommateurs se font avoir. Quand vous verrez une pub déchirante sur TikTok, il faut se poser la question : et si c’était une IA ?
Sources :
Comments are closed