Qu'est-ce que le droit à l'explication d'une décision algorithmique au Luxembourg ?
Réponse courte
Le droit à l'explication permet à toute personne affectée par une décision impliquant un algorithme d'obtenir des informations compréhensibles sur la logique sous-jacente, la portée et les conséquences du traitement automatisé. Au Luxembourg, ce droit découle des articles 13, 14 et 15 du RGPD qui imposent au responsable du traitement de fournir des « informations utiles concernant la logique sous-jacente » de toute décision automatisée.
L'AI Act renforce ce droit en imposant aux déployeurs de systèmes à haut risque de garantir la transparence et de permettre aux personnes affectées de comprendre le rôle de l'algorithme. En matière RH, le salarié ou le candidat peut demander à l'employeur d'expliquer sur quels critères et avec quelle pondération l'algorithme a contribué à une décision de recrutement, d'évaluation, de promotion ou de sanction.
Définition
Le droit à l'explication algorithmique est le droit pour une personne de comprendre comment un système automatisé a contribué à une décision la concernant. Il ne s'agit pas d'un droit d'accès au code source de l'algorithme, mais d'un droit à une explication intelligible des facteurs déterminants qui ont conduit au résultat, des données utilisées et de l'impact de ces facteurs sur la décision.
Ce droit s'inscrit dans le principe plus large de transparence algorithmique qui vise à contrebalancer l'opacité inhérente aux systèmes d'apprentissage automatique. En contexte luxembourgeois, il constitue une composante essentielle du dialogue social et de la relation de confiance entre l'employeur et les salariés dans un environnement de travail intégrant l'IA.
Questions fréquentes
Conditions d’exercice
Le droit à l'explication s'articule autour de plusieurs fondements juridiques complémentaires.
| Fondement | Contenu du droit | Bénéficiaire |
|---|---|---|
| RGPD - Art. 13, §2, f) | Information sur la logique sous-jacente lors de la collecte de données | Toute personne dont les données sont collectées |
| RGPD - Art. 14, §2, g) | Information sur la logique sous-jacente quand les données proviennent d'un tiers | Toute personne concernée |
| RGPD - Art. 15, §1, h) | Droit d'accès incluant les informations sur la logique sous-jacente | Toute personne sur demande |
| RGPD - Art. 22, §3 | Droit d'obtenir une intervention humaine et de contester la décision | Personne soumise à une décision automatisée |
| AI Act - Art. 13 | Transparence des systèmes à haut risque : compréhensibilité pour les utilisateurs | Utilisateurs et personnes affectées |
Modalités pratiques
La mise en œuvre du droit à l'explication exige une organisation interne adaptée.
| Action | Détail |
|---|---|
| Préparer les explications | Documenter en amont les critères utilisés par l'algorithme et leur pondération |
| Désigner un interlocuteur | Identifier la personne habilitée à fournir les explications aux salariés |
| Traiter les demandes | Répondre dans le délai d'un mois (RGPD) avec une explication claire et accessible |
| Adapter le niveau | Fournir une explication compréhensible, sans jargon technique, adaptée au destinataire |
| Documenter | Conserver la trace des demandes et des réponses fournies |
Pratiques et recommandations
Anticiper les demandes d'explication en préparant pour chaque système d'IA des fiches explicatives décrivant les critères utilisés, leur rôle dans la décision et les limites du système.
Former les managers et les équipes RH à formuler des explications claires et accessibles, en traduisant les concepts techniques en langage compréhensible pour les salariés.
Distinguer dans l'explication la part de la recommandation algorithmique et la part de la décision humaine, pour montrer que la supervision humaine a été effective.
Collaborer avec le fournisseur du système d'IA pour obtenir les éléments techniques nécessaires à la formulation des explications, en contractualisant cette obligation d'assistance.
Cadre juridique
| Référence | Objet |
|---|---|
| RGPD - Articles 13, 14, 15 | Droit d'information et d'accès incluant la logique sous-jacente |
| RGPD - Article 22 | Droit de contestation et d'intervention humaine |
| AI Act - Article 13 | Transparence et compréhensibilité des systèmes à haut risque |
| AI Act - Article 26 | Obligation du déployeur d'informer les personnes affectées |
| Art. L.261-1 | Information préalable sur les traitements de données des salariés |
Note
Le droit à l'explication ne donne pas accès au code source ni aux secrets commerciaux du fournisseur, mais impose une explication fonctionnelle des critères déterminants. L'employeur doit pouvoir expliquer pourquoi l'algorithme a produit tel résultat et quel rôle ce résultat a joué dans la décision finale.