L'AI Act interdit les systèmes qui exploitent la vulnérabilité d'une personne, et les lignes directrices de la Commission citent le chatbot thérapeutique en exemple. La seule obligation, c'est de te dire que tu parles à une IA.
La Commission a lancé ses premières enquêtes sous l'AI Act contre OpenAI et Anthropic, pile au moment où elle peaufine les règles qui diront quand elle pourra vraiment sanctionner.