T’as déjà vu une boîte vendre de la sécurité comme d’autres vendent des aspirateurs. OpenAI, c’est un peu ça depuis des années. Sauf que la sécurité, quand elle reste un argument marketing, finit par se retrouver devant un juge.
C’est là qu’on en est. Lundi, la Colombie-Britannique a déposé plainte contre OpenAI et Sam Altman devant un tribunal fédéral de San Francisco. Le motif refroidit : la province estime qu’une fusillade survenue en février dans une école de Tumbler Ridge, neuf morts en comptant le tireur, aurait pu être évitée. Comment ? Si OpenAI avait prévenu la police que l’auteur utilisait ChatGPT pour préparer son attaque.
Trois dépêches concordent sur l’essentiel. La plainte vise l’entreprise et son CEO, pas juste une filiale. Elle réclame des dommages et intérêts pour financer la reconstruction de la région. Et, plus gênant pour la boîte, une injonction : un ordre du tribunal pour changer la façon dont ChatGPT gère les conversations qui peuvent mener à la violence.
Le détail qui tue, il est dans le Financial Times. Selon le journal, le compte du tireur avait été signalé. En interne, donc. Flagged, comme on dit dans le jargon. Quelqu’un chez OpenAI a vu quelque chose, ou un système l’a vu, et puis plus rien. Pas de coup de fil à la police locale.
Tu me diras, un signalement interne, c’est pas une preuve. Un mec qui écrit des trucs violents à un chatbot, ça court les rues, c’est pas pour autant qu’il va passer à l’acte. Sauf qu’ici, le type est passé à l’acte. Et qu’entre le moment où tu coches ta case « violence » et celui où tu décroches le téléphone, il y a un monde.
Voilà des années qu’on nous vend le safety washing. Les rapports, les comités d’éthique, les auditeurs indépendants payés par la boîte qu’ils auditent. On en parlait il y a quelques jours à propos des fameux auditeurs de sécurité indépendants d’OpenAI et d’Anthropic, indépendants de qui au juste. Aujourd’hui, la question se pose autrement : indépendants de qui, surveillants de quoi, et surtout, à quoi ça sert quand ça doit servir ?
Là où le dossier devient intéressant, c’est le précédent qu’il pose. Une IA n’est pas un médecin, ni un prof, ni un travailleur social. Elle n’a aucune obligation légale de signaler quoi que ce soit. Pour l’instant. Parce que si la plainte de la Colombie-Britannique passe, chaque boîte d’IA devient une sorte de standard téléphonique du signalement, avec un devoir de vigilance à géométrie très variable.
Et là, on touche à un truc que personne n’a envie de regarder en face. Tes conversations avec ChatGPT, elles sont lues. Pas par un humain tout le temps, mais assez pour qu’un algorithme lève la main de temps en temps. La plupart du temps, ça ne sert qu’à te refourguer un modèle plus cher ou à t’envoyer un avertissement. Mais le jour où la justice décide que ce signal doit devenir une dénonciation, c’est toute la promesse de confidentialité des chatbots qui prend l’eau.
À l’inverse, imagine que la plainte soit déboutée. Alors quoi ? Une entreprise peut repérer un gars qui complote un massacre, ne rien dire, et s’en laver les mains au nom de la vie privée ? Défendable techniquement. Indéfendable moralement. On a connu des positions plus confortables.
C’est tout le paradoxe de cette histoire. Le même argument, la vie privée, peut te protéger toi comme couvrir une lâcheté. Le même signalement, celui qui hurle « danger », peut sauver des vies comme flinguer la confiance de millions d’utilisateurs.
Personne ne demande à OpenAI d’embaucher 40 000 modérateurs et de jouer les vigiles planétaires. Un chatbot ne peut pas trier le vrai tueur de l’ado qui écrit de la dark fiction à 3 heures du mat’. C’est un fait. Mais il y a une différence entre l’incapacité à tout voir et le fait de voir, de noter, puis de fermer les yeux.
OpenAI, pour l’instant, la joue sobre. Pas de communiqué tonitruant, pas de contre-attaque médiatisée. La boîte sait que sur ce terrain, chaque mot peut être retourné contre elle. Altman, nommé dans la plainte, garde le silence. Sage. Pour une fois.
Il y a une ironie cruelle dans ce dossier. Une entreprise qui a passé des années à nous expliquer que l’IA allait sauver le monde se retrouve accusée de ne pas avoir levé le petit doigt quand son propre outil servait à en détruire un morceau. Ce n’est pas une question de hype, ni de benchmark, ni de course au paramètre. C’est une question de savoir ce qu’on fait quand le pire se pointe, et si on a le courage de décrocher le téléphone.
À Tumbler Ridge, neuf personnes ne sont plus là pour en parler. Il reste une province qui réclame des comptes et une boîte qui va devoir expliquer à un juge ce qu’elle a vu, quand elle l’a vu, et pourquoi elle a préféré garder ça pour elle. Le safety washing avait un goût de faux. Il a maintenant un goût de cendre.
Sources :
Comments are closed