Les chatbots cherchent sur le web et répondent avec aplomb, mais ils choisissent parfois un blog perso plutôt qu'une source d'autorité, et ils ne te préviennent pas.
L'Agence européenne des médicaments publie des principes pour l'usage des LLM par son personnel : utiles pour trier la doc, capables d'inventer des réponses, et bons à réviser régulièrement.
Sur 28 modèles interrogés par Cohere Labs, un seul a trouvé ce qu'était un « 11 septembre allemand ». Les autres ont répondu avec aplomb, et c'est ça le problème.
llm-echo, qui n'est pas un vrai modèle, se met à compter appels d'outils, prompts système et tokens de raisonnement. Quand la facture devient illisible, il faut un faux compteur pour la vérifier.