Les chatbots cherchent sur le web et répondent avec aplomb, mais ils choisissent parfois un blog perso plutôt qu'une source d'autorité, et ils ne te préviennent pas.
L’Australie vient d’inscrire dans la loi l’interdiction des chatbots qui simulent l’intimité émotionnelle avec un enfant. Le seul endroit où porter plainte reste la plateforme elle-même.
L'AI Act interdit les systèmes qui exploitent la vulnérabilité d'une personne, et les lignes directrices de la Commission citent le chatbot thérapeutique en exemple. La seule obligation, c'est de te dire que tu parles à une IA.
Deux professeurs de Bryant University expliquent que le bon prompt n'est pas une formule magique mais une conversation, avec des questions, des exemples et de la vérification.