Robert Dillon, un type de Fort Myers, en Floride, a vu son quotidien basculer quand des flics ont débarqué chez lui pour l’arrêter dans une affaire de kidnapping d’enfant. Problème : Dillon vivait à 300 miles de Jacksonville Beach, là où le crime aurait été commis. Mais la police avait un atout dans sa manche : un logiciel de reconnaissance faciale, un des plus vieux utilisés aux États-Unis, qui affichait une probabilité de 93 % que ce soit lui sur les images de vidéosurveillance d’un McDonald’s.
Sauf que 93 %, c’est pas 100 %. Et l’ACLU, qui a porté plainte contre les départements de police de Jacksonville Beach et de Fort Myers, rappelle que traiter un match algorithmique comme une quasi-certitude, c’est la porte ouverte aux erreurs judiciaires. D’autant que le logiciel en question, parmi les plus anciens du pays, a déjà montré ses limites, surtout sur les personnes de couleur.
L’affaire Dillon n’est pas un cas isolé — c’est le énième exemple de faux positif qui transforme un algorithme en accusateur public, sans le filet de sécurité d’une vérification humaine sérieuse. La police, elle, s’est contentée de la « probabilité » pour monter un dossier, et Dillon a passé du temps en détention avant que l’erreur soit reconnue.
Ce qu’il faut retenir : la reconnaissance faciale, même mature, n’est pas infaillible. L’utiliser comme preuve principale sans contre-expertise, c’est jouer à la roulette russe avec la liberté des gens. L’ACLU demande des comptes, et si cette affaire fait jurisprudence, elle pourrait forcer les forces de l’ordre à revoir leurs procédures. En attendant, Dillon, lui, se demande comment on reconstruit une vie après une accusation aussi grave basée sur une « probabilité ».
Sources :
Comments are closed