Ça y est, Anthropic a enfin découvert que les gens sont des feignants. Après avoir analysé près de 10 000 conversations avec Claude, leur conclusion est limpide : plus le bot sort des réponses bien léchées, moins tu te donnes la peine de vérifier si c’est du vent. On appelle ça l’effet « beau parleur » – et franchement, fallait-il vraiment une étude pour ça ? Mais bon, c’est Dario Amodei, alors ils ont pondu un « AI Fluency Index » avec des chiffres et tout. Le genre de truc qui te fait dire « ah ouais » avant de réaliser que c’est juste du bon sens enrobé de jargon académique.
Leur constat principal ? L’itération est le meilleur prédicteur d’une utilisation compétente de l’IA. En gros, si tu fais répéter Claude jusqu’à ce qu’il te sorte quelque chose de propre, tu as deux fois plus de chances d’obtenir un résultat « fluent ». Sauf que voilà le piège : une fois que t’as ce joli texte bien formaté, ton cerveau passe en mode paresse. Tu le relis à peine, tu assumes que c’est bon, et hop, tu l’envoies. C’est comme confier tes courses à un ami sympa qui te ramène toujours les bonnes marques – sauf qu’ici, l’ami est un modèle de langage qui peut inventer des chiffres ou des dates au pif.
Anthropic, dans son rôle habituel de dealer prévenant, souligne les compromis. « Attention, les gars, plus c’est joli, plus vous baissez votre garde. » Mais pendant ce temps, ils continuent de perfectionner Claude pour qu’il écrive de mieux en mieux. C’est un peu comme vendre des cigarettes avec un autocollant « Fumer tue » – le message est là, mais le business, lui, repose sur l’addiction. Leur étude montre que les utilisateurs acceptent les sorties polies avec moins de vérifications, ce qui, dans le monde réel, signifie plus d’erreurs qui passent inaperçues. Super pour la productivité à court terme, moins pour la fiabilité.
Et puis, parlons de l’ironie. Anthropic, la boîte qui publie des essais de 20 000 mots sur les risques existentiels, nous apprend que son propre outil nous rend moins vigilants. C’est presque drôle. Tu imagines ? Leur modèle pourrait te souffler une connerie monumentale, mais si c’est bien formulé, tu vas l’avaler sans sourciller. Le « safety-washing » atteint des sommets : ils identifient le problème, le documentent méticuleusement, et… continuent de vendre le produit. La dissonance cognitive, c’est leur marque de fabrique.
Alors, la prochaine fois que Claude te pond un texte parfait, rappelle-toi : la beauté est souvent un piège. Vérifie les faits, creuse les sources, et surtout, garde ton esprit critique allumé. Parce que dans cette course à la fluidité, le premier perdant, c’est ton jugement. Et Anthropic, elle, aura juste publié un papier de plus pour se donner bonne conscience.
Sources :
Comments are closed