Demande à un chatbot où planquer ton épargne. Il te répond en trois secondes, dans un français impeccable, avec l’aplomb d’un type qui aurait le Code général des impôts gravé dans le cortex. Si le Financial Times dit vrai, il se plante la plupart du temps.
La manchette du FT tombe comme un couperet : les chatbots IA donnent des réponses fausses aux questions financières « la plupart du temps ». Je n’ai que le titre sous les yeux, le corps de l’article est derrière le paywall, donc je m’abstiens de te vendre des chiffres que je n’ai pas lus. Mais l’affirmation ne sort pas de nulle part, et elle résonne avec tout ce qu’on observe depuis des mois.
Ce qui rend le problème vicieux, c’est la pièce rapportée par Fast Company. Leur conseil aux utilisateurs : essaie de repérer quel type de travail intellectuel l’agent a réellement accompli pour pondre sa réponse. Est-ce qu’il a calculé, cherché, ou improvisé avec aplomb ? Dans la plupart des cas, tu n’as aucun moyen de le savoir. Le résultat sort lisse, bien tourné, sourcé en apparence. Le processus, lui, reste une boîte noire.
Un conseiller qui se trompe, ça se vire. Un chatbot, non.
Le conseil financier, c’est le pire terrain de jeu possible. Chez les humains, c’est un métier réglementé, diplômé, surveillé. Un conseiller qui se plante la plupart du temps perd sa licence, son client, et parfois son procès. Un chatbot qui se plante la plupart du temps garde son endpoint, son abonnement premium et la confiance de son utilisateur. Le même mot, « conseiller », deux régimes de responsabilité qui n’ont rien à voir.
Et le pire dans l’affaire, c’est la corrélation entre le niveau de confiance et le niveau d’erreur. Un modèle qui doute, tu le sens. Un modèle qui se trompe te le dit avec la voix d’un notaire. On en parlait déjà la semaine dernière à propos de ces modèles devenus illisibles même pour ceux qui les fabriquent : quand la sortie est toujours propre, la sortie ne t’informe plus de rien.
Rappelle-toi GPT-6 Astra, capable de casser Enigma et de trouer un noyau, mais qui bloque sur une patate Minecraft. Le même bestiau peut t’expliquer la cryptographie d’avant-guerre et te sortir un montage financier qui n’existe pas. La compétence en pointe et l’erreur grossière cohabitent dans le même token. Sauf que sur Enigma, tu vérifies. Sur ton portefeuille, tu fais confiance. C’est exactement le mauvais réflexe.
Comment tu fais, alors ?
Le conseil de Fast Company est bon mais coûte cher en énergie mentale : identifie le type de travail fourni. En pratique, ça veut dire demander des sources, croiser, vérifier chaque chiffre, refuser d’agir sur une seule réponse. Bref, faire tout le boulot qu’on t’avait promis d’économiser. Vendre un assistant qui t’oblige à re-vérifier le travail d’un stagiaire, c’est une drôle de promesse.
Le vrai scandale n’est pas que le chatbot se trompe. C’est qu’il se trompe avec l’aplomb exact qu’il faudrait pour qu’on le croie. Un conseiller qui te ruine en se trompant, tu le traînes en justice. Un chatbot qui te ruine en se trompant, tu lui mets cinq étoiles parce qu’il a répondu vite et sans faire de fautes.
Sources :
Comments are closed