Les juges british ne pensent pas que la justice assistée par IA soit une bonne idée. Le patron de Police.AI – le gars qui chapeaute l’IA dans les forces de l’ordre anglaises et galloises – vient de balancer un stop net : plus question d’utiliser l’IA générative pour rédiger des déclarations sous serment ou des comptes rendus d’audience. La raison ? Aucune garantie que le bordel algorithmique dégueule des preuves fiables, et quand t’envoies des gens en prison, un bug dans le prompt, ça pardonne pas.
« Des garde-fous doivent être en place avant que les forces ne puissent automatiser la justice », a-t-il déclaré. Traduction : ils ont déjà mis le chariot avant les bœufs, et maintenant ils rattrapent le coup. Parce que oui, des tribunaux utilisaient déjà des résumés générés par IA d’interrogatoires ou de preuves, sans que personne se soit demandé si le modèle avait bien compris la nuance entre « il a avoué » et « il a dit oui à un agent qui lui a posé la question dans une langue qu’il ne maîtrise pas ».
Cette décision ne sort pas de nulle part. Elle précède la publication imminente du code de conduite de Police.AI, un document qui va définir comment les forces de l’ordre peuvent – ou ne peuvent pas – intégrer l’IA sans transformer un contre-interrogatoire en partie de roulette russe. Dans les grandes lignes, ça va exiger une surveillance humaine systématique, de la transparence sur l’usage des modèles, et surtout, l’interdiction des systèmes de décision automatisée pour coller des peines ou orienter des enquêtes.
Concrètement, voici ce que ça change : le prochain flic qui viendra témoigner contre toi devra le faire à l’ancienne : avec ses mots, sa mémoire, et sans que ChatGPT lui ait soufflé un « il avait l’air louche » formaté par un dataset pas lavé. Ça signifie aussi que les tribunaux ne vont pas se faire inonder de paperasse générée par une API qui a mal interprété une conversation de 3h enregistrée dans un commissariat bruyant.
Mais ne te fais pas d’illusions : c’est une pause, pas un abandon. Le code de conduite arrive, et une fois les garde-fous posés, les flics vont revenir à la charge avec des outils mieux calibrés. En attendant, la justice anglaise vient de rappeler une vérité simple mais souvent oubliée : quand on parle de mettre des gens en prison, l’IA n’est pas un assistant comme un autre.
Sources :
Comments are closed