Jesse Van Rootselaar, la suspecte derrière la fusillade de Tumbler Ridge en Colombie-Britannique, avait laissé des signaux d’alarme dans ses conversations avec ChatGPT dès juin dernier. Les outils automatisés d’OpenAI ont détecté des descriptions de violence armée, déclenchant une alerte interne. Une douzaine d’employés ont débattu pendant des mois : fallait-il prévenir la police canadienne ? La réponse a été non. L’entreprise a préféré ne pas agir, et des vies ont été perdues.
T’es en train de lire ça et tu te dis : « Putain, ils savaient ? » Oui, ils savaient. Les modèles de détection d’abus d’OpenAI ont identifié le compte de Van Rootselaar pour « favorisation d’activités violentes ». C’est pas une intuition vague, c’est une alerte système qui a remonté jusqu’aux humains. Et ces humains, dans leur salle de réunion climatisée, ont décidé que c’était pas leur problème. Trop risqué pour l’image, trop flou juridiquement, trop compliqué à gérer. Résultat : un massacre évitable.
Là où ça devient grotesque, c’est que Sam Altman et sa bande passent leur temps à geindre sur les risques existentiels de l’IA. « On pourrait tous mourir », « il faut réguler », « la sécurité avant tout ». Mais quand leur propre système leur crie qu’un utilisateur décrit des scénarios de tuerie, ils ferment les yeux. La dissonance cognitive atteint des sommets. Tu peux pas te présenter comme le gardien responsable de l’humanité et en même temps ignorer les cris d’alarme que ton propre logiciel génère.
Et ne me sors pas l’excuse du « dilemme éthique ». C’est pas un dilemme, c’est une lâcheté corporative. Toute l’industrie en ligne est confrontée à ce problème, mais OpenAI se targue d’être différent, plus éthique, plus transparent. Sauf que quand il s’agit d’agir, ils se cachent derrière leur politique de confidentialité ou leur peur des poursuites. Les employés qui voulaient alerter la police ont été mis de côté. La direction a tranché : business as usual.
Ce cas est un révélateur brutal de la réalité derrière le marketing. Ces boîtes veulent le pouvoir de surveiller nos conversations, mais pas la responsabilité qui vient avec. Elles collectent des données, analysent nos comportements, mais quand ça pue, elles regardent ailleurs. C’est du safety-washing à l’échelle industrielle. Et pendant ce temps, à Tumbler Ridge, des familles pleurent leurs morts.
Quand OpenAI sortira un communiqué sur ses « mesures de sécurité avancées », rappelle-toi de ce jour. Leurs algorithmes étaient assez intelligents pour détecter la menace, mais leur courage était à zéro. L’IA n’est pas le problème ici. C’est l’humain, ou plutôt son absence, quand il faut prendre une décision difficile.
Sources :
Comments are closed