Qui est responsable en cas de biais discriminatoire dans un tri automatisé ?
Réponse courte
L'employeur qui utilise un outil automatisé de tri des candidatures est principalement responsable en cas de biais discriminatoire, même si l'outil est fourni ou géré par un prestataire externe. Il doit garantir que le système respecte les obligations légales de non-discrimination et peut être sanctionné si le tri aboutit à une distinction illicite, indépendamment de son intention.
La responsabilité du prestataire externe peut également être engagée en cas de co-responsabilité, notamment s'il a conçu, paramétré ou exploité l'outil en connaissance de cause. Toutefois, la charge principale de la preuve et de la prévention du risque de discrimination incombe à l'employeur, qui doit assurer la traçabilité des décisions et prévoir une intervention humaine pour contrôler les résultats du tri.
Définition
Le biais discriminatoire dans un tri automatisé désigne toute situation où un système informatique utilisé pour présélectionner ou filtrer des candidatures opère une distinction illicite fondée sur un critère prohibé par la législation luxembourgeoise. Ces critères incluent notamment l'origine, le sexe, l'âge, le handicap, la religion, l'orientation sexuelle ou toute autre caractéristique protégée par la loi, conformément au cadre de l'IA en recrutement.
Ce biais peut résulter d'algorithmes, de paramètres de programmation ou de données d'apprentissage inadaptées, conduisant à une discrimination directe ou indirecte lors du recrutement. La discrimination peut être caractérisée même en l'absence d'intentionnalité de la part de l'employeur ou du concepteur de l'outil.
Questions fréquentes
Conditions d’exercice
La responsabilité en cas de biais discriminatoire dans un tri automatisé s'applique dans les conditions suivantes.
| Critère | Détail |
|---|---|
| Champ d'application | Tout employeur ou prestataire utilisant un outil automatisé pour traiter des candidatures |
| Caractérisation | Discrimination dès que le traitement aboutit à un désavantage injustifié pour une personne ou un groupe protégé |
| Base légale | Loi du 28 novembre 2006 relative à l'égalité de traitement en matière d'emploi |
| Intention | Responsabilité indépendante de la volonté de l'employeur ou du prestataire |
| Étendue | Égalité de traitement à toutes les étapes du recrutement, y compris via outils numériques |
Modalités pratiques
La gestion de la responsabilité en cas de tri automatisé s'organise selon les modalités suivantes.
| Aspect | Détail |
|---|---|
| Responsabilité principale | L'employeur demeure responsable même si le système est fourni par un prestataire externe |
| Vérification de l'outil | Absence de critères ou mécanismes susceptibles d'aboutir à une discrimination prohibée |
| Co-responsabilité | Responsabilité du prestataire engageable s'il a conçu, paramétré ou exploité l'outil en connaissance de cause |
| Charge de la preuve | Incombe principalement à l'employeur, qui doit démontrer l'absence de biais discriminatoire |
| Traçabilité | Documentation obligatoire des décisions prises par l'outil automatisé |
| Intervention humaine | Contrôle ou validation des résultats du tri |
Pratiques et recommandations
Il est recommandé à l'employeur de procéder à une analyse préalable des algorithmes et des critères utilisés par les outils de tri automatisé, afin d'identifier tout risque de discrimination.
L'employeur doit exiger des garanties contractuelles auprès des prestataires quant à la conformité des systèmes, et documenter les contrôles effectués. La mise en place de procédures de vérification régulières, l'audit des résultats produits par l'outil et la formation des responsables RH à la détection des risques de discrimination constituent des mesures préventives essentielles.
En cas de doute sur la neutralité du système, il convient de privilégier une intervention humaine complémentaire dans la sélection des candidatures. Il est également conseillé de consulter le comité du personnel ou la délégation du personnel sur l'introduction de tels outils, conformément à l'article L.414-1 du Code du travail.
Cadre juridique
| Référence | Objet |
|---|---|
| Loi du 28 novembre 2006 | Égalité de traitement en matière d'emploi et de travail |
| Art. L.251-1 du Code du travail | Obligation de garantir l'égalité de traitement à toutes les étapes du recrutement |
| Art. L.414-1 du Code du travail | information et consultation de la délégation du personnel |
| Art. L.261-1 et suivants du Code du travail | traitement de données à caractère personnel à des fins de surveillance |
| Règlement (UE) 2016/679 (RGPD) | Principes de loyauté, transparence et non-discrimination dans le traitement automatisé des données |
| Centre pour l'égalité de traitement (CET) | Réception des plaintes et contrôle de la conformité des pratiques |
| Inspection du travail et des mines (ITM) | Contrôle de la conformité des pratiques de recrutement |
Note
L'employeur doit pouvoir justifier à tout moment que le tri automatisé ne repose sur aucun critère discriminatoire, sous peine de sanctions civiles et administratives, voire de dommages et intérêts en cas de préjudice avéré. La traçabilité des décisions et l'intervention humaine sont des garanties essentielles pour limiter le risque de discrimination.