On s’y attendait presque. Après avoir promis pendant des mois de « ralentir » et de « prioriser la sécurité », OpenAI fait exactement l’inverse : il balance son ChatGPT dans le milieu médical. Gratuitement. Pour les médecins, infirmières et pharmaciens américains vérifiés. Le timing est parfait : quelques semaines après qu’une étude de l’Université de Stanford a montré que GPT-4 inventait des références médicales dans 27% des cas, et quelques jours après que la FDA a rappelé un dispositif médical guidé par IA pour des erreurs de diagnostic. Mais bon, quand t’as perdu 12 milliards au dernier trimestre, tu cherches des marchés. N’importe lesquels.
L’annonce est habilement emballée : « soutenir les soins cliniques, la documentation et la recherche ». Traduction : « On espère que des médecins surmenés utiliseront notre bot pour remplir des formulaires et qu’ils ne remarqueront pas quand il inventera des interactions médicamenteuses. » Parce que oui, c’est bien le même ChatGPT qui, la semaine dernière, a conseillé à un utilisateur de tester un remède à base d’arsenic pour un simple rhume. Le même qui confond régulièrement la posologie d’un antihistaminique avec celle d’un anticoagulant. Mais maintenant, il est « personnalisé pour les professionnels de santé ». Personnalisé, mais de quelle manière ? En ajoutant un prompt système « Tu es un assistant médical responsable » ?
OpenAI n’est pas le premier à tenter le coup. Google a essayé avec Med-PaLM, Microsoft avec Nuance DAX. Les deux ont essuyé des échecs cuisants : hallucinations, biais raciaux dans les diagnostics, violations de confidentialité. La différence, c’est qu’OpenAI le fait maintenant, alors que les preuves des risques s’accumulent plus vite que les modèles ne s’améliorent. C’est comme lancer un nouveau médicament sans essais cliniques, mais en version beta permanente.
Et le pire dans tout ça, c’est la stratégie commerciale derrière le geste « gratuit ». OpenAI sait très bien que le secteur médical est un jackpot : des budgets énormes, une documentation interminable, une pénurie de personnel. Offrir ChatGPT gratuitement aux médecins, c’est le cheval de Troie parfait. Une fois qu’ils seront accros à l’assistant qui rédige leurs notes en 30 secondes, viendra la phase 2 : la version « entreprise » avec l’intégration aux dossiers médicaux, l’analyse d’images, la facturation. À 500$ par mois par utilisateur. Le gratuit d’aujourd’hui finance le lock-in de demain.
Sam Altman, dans son dernier post sur X, a déclaré : « Nous travaillons avec des experts médicaux pour garantir la sécurité. » Les mêmes experts qui, selon des documents internes fuités l’an dernier, avaient recommandé de ne pas déployer ChatGPT dans des contextes critiques avant 2028 ? Ou les nouveaux qu’ils viennent d’embaucher pour l’occasion ? Parce que rappelons-le : OpenAI a licencié son équipe de sécurité dédiée aux risques à long terme il y a six mois. Maintenant, ils embauchent des médecins en consultance. Le progrès, visiblement.
Pendant ce temps, les vrais problèmes persistent. ChatGPT pour les cliniciens sera-t-il conforme au HIPAA ? OpenAI dit « oui », mais leurs conditions d’utilisation précisent que les données peuvent être utilisées pour l’entraînement des modèles. Un médecin qui saisit les symptômes d’un patient verra ces informations alimenter les prochaines versions du modèle. La confidentialité, dans ce monde, c’est un concept aussi flou qu’un diagnostic généré par une IA.
Faut-il applaudir parce que c’est gratuit, ou se demander pourquoi une entreprise qui n’a jamais soigné un patient de sa vie pense pouvoir révolutionner la médecine avec un chatbot qui invente des études scientifiques ? La réponse est dans la valorisation : 900 milliards de dollars ne s’obtiennent pas en étant prudent. Ils s’obtiennent en prenant des risques. Surtout quand ce sont les patients qui les paient.
Reste à voir combien de temps il faudra avant le premier procès. Un diagnostic erroné basé sur une hallucination de ChatGPT, une ordonnance catastrophique générée par l’assistant « clinique ». OpenAI aura-t-il prévu un budget pour les dédommagements, ou est-ce que ça aussi, c’est inclus dans la version gratuite ?
Sources :
Comments are closed