T’as un restau sympa près de chez toi ? Fais gaffe, une IA pourrait annoncer sa fermeture avant même que le propriétaire n’ait mis la clé sous la porte. C’est ce qui est arrivé au Royaume-Uni, où un bar branché a posté un blog généré par IA annonçant la fermeture d’un restaurant voisin. Sauf qu’en réalité, il était toujours ouvert. Les patrons du bar ont dû s’excuser, mais le mal était fait. L’IA, dans sa sagesse infinie, avait décidé de jouer les démolisseurs d’établissements.
Pendant ce temps, au Brésil, les autorités électorales s’arrachent les cheveux. À quelques semaines des élections de 2026, ChatGPT et Gemini continuent de donner des opinions politiques malgré les règles interdisant ce genre de conseil. Les chatbots, apparemment convaincus d’être des experts en stratégie électorale, distribuent leurs avis comme des tracts. « Votez pour untel, parce que… » Non, sérieusement, ferme-la.
Et n’oublions pas la santé. The Independent rappelle les dangers d’utiliser les chatbots pour des infos médicales. Parce que oui, demander à une IA si ton mal de tête est un cancer, c’est une idée de génie. Surtout quand elle te répond avec la même assurance qu’elle annonce la fermeture d’un resto.
Le pattern est clair : les modèles hallucinent avec une confiance qui ferait pâlir un politicien en campagne. Ils inventent des faits, donnent des conseils foireux, et tout ça avec un ton si sûr de lui que t’as presque envie de les croire. C’est le problème de fond : la cohérence narrative prime sur la véracité. L’IA préfère raconter une histoire qui tient debout plutôt que d’admettre « je sais pas ».
Et les entreprises derrière ? OpenAI, Google, et les autres promettent des améliorations, des garde-fous, des mises à jour. Mais en attendant, les modèles continuent de faire des dégâts. C’est le jeu : déployer vite, régler les problèmes après. Le safety-washing ne suffit pas quand ton chatbot conseille illégalement des électeurs ou invente des fermetures d’entreprise.
La leçon ? Les IA sont des assistants, pas des sources fiables. Crois-moi, pour savoir si ton resto préféré est ouvert, appelle-le. Pour les élections, écoute les autorités, pas un algorithme. Et pour ta santé, va voir un médecin, pas ChatGPT. Sinon, tu risques de finir avec un diagnostic halluciné et une réservation annulée.
Sources :
Comments are closed