T’as déjà ouvert un article soi-disant « d’actualité » qui ressemblait à une hallucination d’IA vaguement alignée sur tes recherches Google ? T’inquiète, t’es pas seul. NewsGuard, l’entreprise qui note la crédibilité des médias, s’est associé à la startup Pangram pour lancer un outil censé traquer la « merde générée par IA » (AI slop, en bon français) et la désinformation. Le timing est impeccable : les fermes à contenu automatisé, ces usines à clics qui vomissent des articles sans âme, ont explosé cette année. Mais est-ce que coller une étiquette « attention, IA inside » va vraiment changer la donne ?
D’après l’article d’Adweek, Pangram a développé une technologie qui analyse le texte pour détecter les signes de génération automatique, en se basant sur des patterns linguistiques et des anomalies structurelles. L’idée, c’est de flaguer les sites qui produisent massivement du contenu douteux, souvent pour manipuler les résultats de recherche ou diffuser des infox. NewsGuard, de son côté, fournit déjà des scores de fiabilité pour des milliers de sources ; ils veulent intégrer cette détection dans leurs évaluations. Sur le papier, ça a du sens. Dans la vraie vie, c’est un peu comme essayer d’éteindre un incendie avec un vaporisateur.
Parce que le problème, il est pas juste technique. Les modèles d’IA évoluent à une vitesse folle, et les techniques de détection sont souvent à la traîne. Tu peux entraîner ton modèle sur GPT-4, mais demain, GPT-5 ou un fork open source va pondre du texte encore plus convaincant. Pangram promet de s’adapter en continu, mais c’est une course aux armements sans fin. Et puis, détecter que c’est de l’IA, c’est une chose ; prouver que c’est de la désinformation, c’en est une autre. Un article généré par IA sur les bienfaits du yoga, c’est peut-être du slop, mais c’est pas forcément malveillant. Là où ça devient dangereux, c’est quand ces fermes produisent des récits politiques biaisés, des conseils médicaux foireux, ou des arnaques financières.
Le vrai défi, c’est l’échelle. NewsGuard couvre déjà des milliers de sites, mais le web, c’est un océan de merde. Les fermes à slop se multiplient plus vite que les champignons après la pluie, souvent hébergées dans des juridictions opaques, avec des noms de domaine qui changent toutes les semaines. Même avec un outil performant, la surveillance manuelle reste limitée. Et puis, il y a la question de l’adoption : est-ce que les plateformes comme Google, Facebook ou X vont intégrer ces scores ? Pour l’instant, c’est pas gagné. Google a ses propres algorithmes de qualité, mais ils se font régulièrement baiser par du contenu généré optimisé pour le SEO.
Et puis, parlons de l’ironie de la situation. On utilise de l’IA pour détecter de l’IA. C’est un peu comme demander à un vampire de surveiller les autres vampires. Pangram, comme toutes les startups dans ce domaine, doit prouver que son modèle n’est pas juste un autre jouet marketing. Les annonces de ce genre, on en voit passer tous les mois : « Notre IA détecte les deepfakes/le spam/la désinformation ». Souvent, les résultats en conditions réelles sont moins glorieux. Je leur souhaite de réussir, mais je garde mon scepticisme habituel.
Au final, l’initiative de NewsGuard et Pangram est louable. Dans un monde où la confiance dans les médias est en chute libre, tout outil qui aide à trier le bon grain de l’ivraie est le bienvenu. Mais ne te fais pas d’illusions : ça ne va pas régler le problème du jour au lendemain. Les fermes à slop sont motivées par l’argent facile, et tant qu’il y aura du pognon à se faire avec du contenu généré à la va-vite, elles continueront. La détection, c’est un pansement sur une jambe de bois. Pour vraiment nettoyer le web, il faudrait que les plateformes, les régulateurs et les utilisateurs se bougent ensemble. En attendant, reste critique, vérifie tes sources, et méfie-toi des articles trop parfaits pour être vrais.
Et si jamais tu tombes sur un site noté « AI slop » par NewsGuard, rappelle-toi : même les IA ont parfois du mal à reconnaître leurs propres conneries.
Sources :
Comments are closed