Ça commence à faire une drôle de collection, chez OpenAI. Après les plaintes pour plagiat, les accusations de violation de la vie privée et les enquêtes antitrust, voilà que Sam Altman et sa bande se retrouvent au cœur d’une affaire judiciaire autrement plus lourde. Une famille canadienne, dont l’enfant a été grièvement blessé dans la fusillade de Tumbler Ridge, vient de déposer une plainte civile contre l’entreprise. Leur argument ? OpenAI aurait pu empêcher le drame.
Le truc, c’est que le tireur, un gamin de 18 ans, avait discuté avec ChatGPT avant de passer à l’acte. Selon la famille, il aurait décrit des scénarios violents impliquant des armes à feu, et le modèle aurait répondu sans alerter les autorités. « Mass casualty event », le terme utilisé dans la plainte, ça pèse son poids. OpenAI, de son côté, s’est contenté de vaguement s’excuser après coup, Sam Altman promettant des excuses aux familles. Un peu tard, non ?
Là où ça devient intéressant, c’est que cette affage met le doigt sur une contradiction fondamentale du secteur. D’une part, on nous serine que ces modèles sont trop puissants, qu’ils représentent un risque existentiel, qu’il faut les réguler avant qu’ils ne deviennent incontrôlables. D’autre part, quand un gamin utilise ChatGPT pour préparer un massacre, OpenAI joue les surpris. « On savait pas », « c’est compliqué », « on fait de notre mieux ». La même boîte qui lève des milliards pour développer des agents autonomes est incapable de détecter un discours manifestement dangereux dans ses propres conversations.
Pendant ce temps, à Mountain View et San Francisco, on débat de l’alignement des superintelligences futures. C’est noble, hein. Mais peut-être qu’avant de philosopher sur la fin du monde, on pourrait commencer par éviter les drames réels, ici et maintenant. Huit morts, des familles brisées, une communauté traumatisée, et OpenAI qui s’excuse après coup. Le pattern est connu : accélérer d’abord, gérer les conséquences plus tard, s’excuser jamais vraiment.
La question, maintenant, c’est de savoir si cette plainte va tenir juridiquement. OpenAI va sûrement brandir ses conditions d’utilisation, son immunité Section 230 à l’américaine (même si l’affaire est au Canada), et son incapacité technique à tout surveiller. Mais moralement, l’entreprise est dans une posture fragile. À force de jouer aux apprentis sorciers avec des technologies qu’on ne maîtrise pas, on finit par avoir du sang sur les mains.
Et toi, tu penses quoi ? Est-ce qu’OpenAI a une responsabilité dans cette affaire, ou est-ce juste un bouc émissaire pratique pour une société qui refuse de regarder ses propres problèmes en face ? Dans tous les cas, ce qui est clair, c’est que le mythe de l’IA bienveillante et inoffensive prend encore un coup dans l’aile. Et cette fois, c’est pas une erreur de benchmark ou un biais algorithmique, c’est des vies humaines.
Sources :
Comments are closed