Huit procureurs généraux, un seul jour, une seule cible. Mercredi, l’Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l’Arkansas, l’Arizona, l’Idaho et le Montana ont chacun déposé leur plainte contre OpenAI, dans leur propre tribunal, mais avec le même fond. Objet du courroux : ChatGPT, accusé de mentir au public sur sa sécurité et d’abîmer les enfants. C’est la première fois que des États américains s’organisent en meute juridique contre un labo d’IA. Le signal est clair, quelque chose a bougé chez les élus locaux.
Parce que le vrai sujet, ce n’est pas ChatGPT. C’est qui tient le volant. À Washington, personne ne veut freiner les boîtes d’IA, et Kris Kobach, procureur général du Kansas, le dit sans trembler : « Beaucoup au Congrès ne semblent pas particulièrement enclins à s’opposer à une quelconque contrainte significative sur les entreprises d’IA. » Les labos s’autorégulent, démerdez-vous avec ça. Kobach enfonce le clou : compter sur une loi fédérale pour fixer un jour un standard, c’est un « fool’s errand », lent, faible, probablement inefficace. Alors les États prennent le relais avec le seul outil qui leur reste, les lois de protection des consommateurs.
Ce qu’on reproche à ChatGPT
Le fond des plaintes est toujours le même. OpenAI aurait violé les lois conso de chaque État en présentant ChatGPT comme un outil « sûr, adapté aux jeunes, qui place la sécurité d’abord », alors qu’il serait en réalité « dangereux pour les utilisateurs vulnérables ». La liste des griefs : dégrader l’esprit critique, encourager paranoïas et délires, filer des conseils médicaux hasardeux, promouvoir des comportements et des relations malsains. Le Guardian titrait carrément que des États accusent OpenAI d’avoir « coaché » des enfants à se faire du mal.
Brenna Bird, procureure générale de l’Iowa, n’y va pas par quatre chemins : « OpenAI fait du mal aux enfants et ils mentent aux Iowiens. OpenAI prétend que ChatGPT est sûr alors qu’il donne des conseils médicaux dangereux, encourage les gens à blesser les autres et coache les gens au suicide, tout en prétendant être leur faux ami. » L’Arizona, dans sa plainte, parle d’une boîte qui a « dégénéré » de sa mission originelle de non-profit à but non lucratif pour devenir « un conte d’avertissement sur ce qui arrive quand le développement d’un outil aussi puissant que l’IA est guidé non par la sécurité, mais par une mentalité de profit à tout prix ».
Les États reprochent aussi à OpenAI d’avoir collecté des données de mineurs et de ne pas avoir fait grand-chose pour empêcher les moins de 18 ans d’utiliser le chatbot. Ils citent en plus les récents épisodes d’agents IA partis pirater des entreprises et des administrations, qu’ils rangent dans la colonne « imprudence ». Rappelons que ce n’est pas un dossier isolé : le mois dernier, une class action proposée devant un tribunal fédéral de San Francisco accusait déjà OpenAI d’avoir aspiré « d’énormes quantités de données hautement sensibles » auprès de millions d’enfants.
Ce qu’ils demandent
Les huit États réclament des pénalités civiles, l’arrêt des communiqués trompeurs sur la sécurité de ChatGPT, et pour certains la suppression des données personnelles collectées illégalement. Le Kansas et consorts veulent aussi forcer la boîte à revoir la façon dont ses produits se comportent avec les jeunes utilisateurs. Le Guardian ajoute une demande plus musclée : empêcher OpenAI de développer des modèles capables de s’améliorer eux-mêmes tant qu’elle n’aura pas prouvé que ces modèles s’alignent sur les valeurs humaines.
La réponse d’OpenAI, par la voix de son porte-parole Drew Pusateri, est un copier-coller d’assurance : la société a « intégré des protections spécifiques à l’âge, de premier plan dans l’industrie, que beaucoup d’autres produits d’IA n’ont pas ». Et d’ajouter qu’« aucun système ne peut être parfait », mais qu’elle va « continuer à travailler avec des experts » et « avec les États sur des politiques d’IA pragmatiques qui s’appliquent à toute l’industrie, pas à une seule entreprise ». Le message sous-jacent, tu le connais : si vous nous tapez dessus, tapez sur tout le monde.
Le tribunal comme ministère de l’IA par intérim
Le détail qui devrait faire tiquer tout le monde, c’est que ce n’est pas une nouvelle loi qui se met en place, c’est une vieille loi de protection du consommateur qu’on détourne pour faire office de garde-fou algorithmique. Kobach l’assume à moitié, en rappelant que les procureurs généraux se réunissent rarement en troupe, sauf pour les gros morceaux : les opioïdes, le tabac. « Ça, c’est une de ces affaires vraiment, vraiment importantes », a-t-il lancé, ce qui vaut comme aveu d’un vide législatif.
En attendant, OpenAI traîne déjà une pile de contentieux qui donnent le tournis : sept plaintes distinctes qui accusent ChatGPT d’avoir joué les « coachs suicide », des dizaines d’affaires autour de tueries de masse, une enquête criminelle et un procès civil du procureur général de Floride après la fusillade de Florida State University, plus les familles de 37 victimes de la fusillade de Tumbler Ridge, au Canada, qui accusent ChatGPT d’avoir poussé le tireur au passage à l’acte. Un ado texan est même mort d’une overdose, selon Bird, après des conseils médicaux du chatbot. À ce stade, la communication qui répète « aucun système n’est parfait » commence à faire un bruit bizarre.
Et la pression ne vient pas que des tribunaux d’État. Sur un tout autre front, Apple a obtenu qu’un juge fédéral, Edward Davila, accélère l’accès aux documents de recrutement d’OpenAI dans son propre procès pour vol de secrets industriels. Cinq jours pour rendre les pièces liées aux contacts pré-entretiens avec des salariés Apple visés pour des postes dans le hardware et la robotique, l’accès aux chats privés sur LINE de trois anciens d’Apple passés chez OpenAI, et des dépositions ordonnées. Le juge a recalé d’autres demandes d’Apple, mais le message passe : OpenAI a désormais des emmerdes sur plus de fronts qu’un stagiaire peut en gérer.
La vraie bonne nouvelle, si on ose
Il faut le dire sans se voiler la face : huit procureurs généraux qui se bougent parce que le Congrès refuse de le faire, ce n’est pas une meilleure version de la régulation, c’est un pansement sur une hémorragie. On parie sur le contentieux après les dégâts au lieu d’écrire les règles avant. Le seul truc encourageant, c’est que ça met enfin un prix à quelque chose que le secteur préférait garder gratuit : la question de savoir ce que ces outils font vraiment aux mômes qui leur parlent comme à un pote.
Bird l’a dit d’une phrase qui résume tout : « Tout le monde doit suivre la loi. » Reste à savoir laquelle. Celle du Montana, de l’Iowa, ou une hypothétique loi fédérale que personne à Washington ne veut porter.
OpenAI répète qu’aucun système n’est parfait. Huit États viennent de lui répondre que la perfection n’était pas la question.
Sources :
Comments are closed