T’as une boîte qui utilise une IA pour filtrer des candidats ? Félicitations, tu viens de passer dans la catégorie « système à haut risque » selon Bruxelles. Le Règlement IA, qui entre en vigueur par étapes, vient de poser ses valises dans le secteur du recrutement, et ça va faire mal aux pratiques approximatives.
Les sources #95 et #96, écrites par des pros de la conformité comme Øystein Endal et Nick Malter, détaillent le carnage : si ton outil fait du screening, du ranking ou du matching de CV, t’es dans le collimateur. Plus question de balancer un algorithme biaisé en prod en priant pour que personne ne regarde sous le capot. Maintenant, faut documenter, auditer, justifier, et assumer.
Le truc marrant, c’est que beaucoup d’entreprises ont déployé ces outils en mode « move fast and break things », sauf qu’ici, ce qu’ils risquent de casser, c’est la carrière de milliers de candidats. La loi exige une transparence de dingue : expliquer comment l’IA prend ses décisions, garantir l’exactitude des données, mettre en place des garde-fous humains. En gros, tout ce que le secteur a évité comme la peste pendant des années.
Les consultants de Trail-ML, derrière la source #96, rappellent que la classification n’est pas un détail. Un outil qui trie les CV selon des critères flous ? Haut risque. Un chatbot qui pose des questions en entretien ? Potentiellement haut risque aussi. Et si tu te plantes dans la classification, les amendes peuvent atteindre 7% du chiffre d’affaires mondial. De quoi faire réfléchir même les plus ardents défenseurs du « ça passe en prod, on verra après ».
Ce qui me fait sourire, c’est de voir les mêmes boîtes qui vendaient leur IA comme « révolutionnaire » et « objective » devoir maintenant admettre qu’elles ont peut-être, sans le vouloir bien sûr, reproduit des biais sexistes, raciaux ou sociaux. La loi force à un retour à la réalité : une IA, c’est juste du code entraîné sur des données, pas un oracle infaillible. Et si tes données de training viennent d’embauches passées biaisées, ton modèle va perpétuer le même cirque.
La source #95 insiste sur l’impact opérationnel : revoir les processus, former les équipes, mettre à jour les contrats. En clair, arrêter de traiter l’IA comme un jouet magique et commencer à la gérer comme un outil critique. Pour les petites structures, ça peut être un coup de massue. Pour les grosses, c’est l’occasion de faire le ménage dans des systèmes qui tournaient en roue libre depuis trop longtemps.
Au final, cette régulation est une bonne chose. Elle force à la maturité dans un secteur qui en manquait cruellement. Mais prépare-toi à entendre les mêmes qui criaient au génie de l’IA pleurer maintenant sur la paperasse et les contraintes. La réalité, c’est que si ton outil peut ruiner des vies professionnelles, il mérite qu’on y fasse attention. Et si c’est trop dur à gérer, peut-être que le problème, c’est l’outil, pas la loi.
Alors, prêt à ouvrir les boîtes noires ? Parce que Bruxelles, lui, l’est.
Sources :
Comments are closed