Toi qui pensais que l’IA générative allait révolutionner la médecine, l’éducation, le transport, tu te trompais. Sa première vraie disruption, c’est dans les tribunaux qu’elle a lieu. Et c’est pas joli joli.
Des centaines de procédures générées par IA
La juge fédérale Maritza Braswell, dans le Colorado, passe ses journées à trier des montagnes de documents rédigés par des justiciables sans avocat. Jusque-là, rien de neuf. Depuis l’arrivée de ChatGPT et consorts, ces plaintes ont explosé en quantité — et plongé en qualité. Des arguments juridiques inventés, des citations de lois qui n’existent pas, des précédents judiciaires générés de toutes pièces. La juge Braswell décrit un « déluge » de dossiers où l’IA a été utilisée pour rédiger des requêtes, souvent sans que le plaignant comprenne ce qu’il soumet.
Un vrai casse-tête pour les magistrats
Le problème, c’est que ces plaintes ont l’air crédibles à première vue. Un juge ne peut pas simplement les jeter à la poubelle : il doit les examiner, vérifier les citations, triller le vrai du faux. Résultat : des heures perdues pour des dossiers qui n’ont aucune chance d’aboutir. « C’est comme si chaque plaignant avait soudainement accès à un stagiaire en droit très sûr de lui mais complètement incompétent », résume un greffier. Les tribunaux fédéraux américains commencent à alerter.
Qui est responsable ?
La question qui fâche est de savoir si c’est la faute des utilisateurs qui balancent leurs prompts sans réfléchir, ou des boîtes d’IA qui ne mettent aucun garde-fou sur leurs modèles. OpenAI, Google, Meta — tous vendent des outils capables de générer du texte juridiquement plausible, sans aucune vérification. Les juges appellent à une régulation spécifique, mais en attendant, les salles d’audience se transforment en décharges de tokens mal formés.
Mon avis
On nous vend l’IA comme un outil d’augmentation des capacités humaines. Là, elle augmente surtout la capacité des gens à faire n’importe quoi, plus vite et en plus grande quantité. Le problème n’est pas que l’IA soit stupide — c’est que ses utilisateurs le sont. Et que les entreprises préfèrent compter leurs revenus plutôt que d’assumer leurs responsabilités. Un juge ne peut pas envoyer un chatbot en prison pour obstruction. Mais peut-être qu’on pourrait lui coller une amende ? Bah non, il n’a pas de compte en banque non plus.
Bref, l’IA n’a pas encore remplacé les avocats. Mais elle a déjà réussi à leur filer un boulot de ouf.
Sources :
Comments are closed