On scroll sur Facebook entre deux posts de son cousin et une vidéo de chat, et BAM, un compte « Britain Today » parle du « grand remplacement » et de l’islam comme d’un « cancer ». On se dit : « Quel connard ce patriote ». Sauf que le patriote en question, il est peut-être à Colombo ou Lahore, un étudiant fauché qui a découvert que l’IA génère plus vite que son ombre, et que la haine, ça se monétise.
C’est ce qu’a mis au jour Niamh McIntyre du Bureau of Investigative Journalism : des dizaines, voire des centaines de pages Facebook à la gloire d’une Angleterre fantasmée, qui postent des images générées par IA : un mec qui pleure son café où on ne sert plus de bacon, des photos sépia de Londres victorienne avec une légende larmoyante sur la perte d’une « Angleterre anglaise et belle ». Ça pue le nationalisme indigeste, mais derrière, pas de vieux colon en pleurs : des entrepreneurs du Sri Lanka et du Pakistan qui utilisent des outils IA pour produire du contenu haineux en masse et empocher la monnaie publicitaire.
Le plus drôle, c’est que ces mêmes entreprises qui clament « l’IA pour le bien » sont en train de vendre des solutions de modération. Amazon, avec son Nova 2, pond des benchmarks sur la détection de discours toxiques. Sauf que pendant ce temps, Facebook est un champ de mines, et les détections, on les attend. Comme si les fabricants de serrures vendaient des cadenas après avoir laissé les portes grandes ouvertes.
Meta, évidemment, se retranche derrière ses équipes de modération et ses politiques. Mais soyons sérieux deux secondes : si on a 250 langues et des milliers de pages qui pompent des prompts de merde à l’autre bout du monde, comment faire pour trier ? La modération IA, c’est bien joli, mais quand les créateurs de contenus haineux sont aussi des utilisateurs d’IA, le jeu du chat et de la souris devient une course à l’armement.
Alors oui, Amazon peut bien vendre Nova 2 pour la modération, et Google barder ses Gemini-11 ou whatever. Le vrai problème, c’est que les plateformes se reposent sur l’IA pour régler un problème qu’elles ont créé. Résultat : les Sri Lankais rigolent en encaissant les dollars, les Britanniques se font manipuler, et nous on regarde ce merdier en se demandant si l’IA ne va pas finir par nous retourner le cerveau à petit feu.
Clairement, la guerre de l’IA ne se gagnera pas avec des prompts bien calibrés. Elle se gagne contre l’ignorance et la cupidité. Et vu l’état des troupes, le combat s’annonce long.
Comments are closed