Droit à l’explication : répondre à une décision assistée par l’IA.
Une personne apprend qu’un outil d’IA a compté dans une décision qui la concerne. Elle demande ce que le système a réellement fait et pourquoi sa situation a été retenue. Une réponse réduite au nom du logiciel ne lui permet pas de comprendre. L’article 86 vise précisément certains cas où le déployeur doit expliquer le rôle de l’IA et les principaux éléments de la décision.
L’article 86 concerne la personne touchée par une décision fondée sur la sortie d’un système à haut risque de l’annexe III, hors point 2, qui produit des effets juridiques ou l’affecte significativement de manière comparable et qu’elle juge défavorable à sa santé, sa sécurité ou ses droits fondamentaux. Le déployeur doit fournir une explication claire et pertinente du rôle du système dans la procédure et des principaux éléments de la décision, dans les limites et conditions du texte.
Dans ce dossier : Droits des personnes et transparence
Le droit de l’article 86 vise une décision et une catégorie de système précises.
02
L’explication décrit la place de l’IA et les éléments déterminants de la décision.
03
Le déployeur doit pouvoir reconstituer le parcours humain et technique.
04
Les droits du RGPD se vérifient séparément lorsque des données personnelles sont traitées.
01
Vérifier les quatre conditions avant de répondre
La première condition tient au système : il doit être à haut risque selon l’annexe III, à l’exclusion du point 2 sur les infrastructures critiques. La deuxième concerne la décision du déployeur, prise sur la base de la sortie du système. La troisième porte sur l’effet juridique ou une incidence significative comparable. La quatrième regarde l’impact négatif allégué sur la santé, la sécurité ou les droits fondamentaux. La réponse doit citer les faits qui établissent ou écartent ces conditions, sans réduire la demande à une case cochée.
Un classement de candidats ou une décision d’accès à une prestation peut soulever la question. Une simple correction de style par un assistant bureautique ne suit pas automatiquement la même voie. Les exceptions issues du droit de l’Union ou du droit national et l’existence d’un droit équivalent dans un autre texte sont également prévues à l’article 86. Un service de relation usagers a besoin d’un chemin d’escalade vers le métier et le juridique pour traiter ces cas.
Écrire une explication compréhensible sans révéler des secrets inutiles
L’article 86 demande une explication claire et pertinente du rôle du système dans la procédure et des principaux éléments de la décision. Le déployeur peut décrire la finalité de l’outil, les informations utilisées dans le cas, la recommandation reçue, les contrôles humains effectués et les raisons finalement retenues. Le résultat doit aider la personne à comprendre ce qui s’est passé dans son dossier, pas lui remettre une brochure générale sur l’algorithme.
Une explication n’exige pas nécessairement l’accès au code source ou à chaque paramètre du modèle. Elle exige en revanche une trace assez fidèle du chemin décisionnel pour éviter la formule « l’algorithme l’a décidé ». Si un agent a écarté la recommandation, la réponse doit pouvoir le dire. Si une décision a été prise automatiquement alors que la procédure prévoyait une intervention, cet écart doit déclencher une investigation interne.
Concevoir le dossier de décision avant la première demande
Choisissez les informations à enregistrer au moment de la décision : version du système, rôle joué par la sortie, données d’entrée pertinentes, limites signalées, personne habilitée à intervenir, justification finale et recours proposé. Cette collecte reste proportionnée. Le RGPD impose d’éviter une conservation excessive de données personnelles. Le fournisseur doit indiquer ce que son système journalise et ce que le déployeur peut extraire.
Testez la procédure sur un dossier fictif. Demandez à une équipe différente de reconstituer la décision puis de rédiger une réponse en langage ordinaire. Si elle n’y arrive pas, la difficulté vient souvent d’une trace manquante ou d’une supervision qui n’a pas été matérialisée. Corriger ces défauts avant la production coûte moins cher qu’expliquer après coup une décision devenue opaque.
L’article 26(11) prévoit, dans les cas visés, que certaines personnes soient informées de l’usage d’un système à haut risque avant ou lors de la décision. Cette information n’épuise pas le droit à une explication individuelle de l’article 86. Les deux moments ont des objectifs distincts : annoncer l’intervention de l’IA et éclairer ensuite une décision précise. Le parcours utilisateur doit prévoir les deux lorsque leurs conditions sont réunies.
Si des données personnelles sont utilisées, les droits et obligations du RGPD doivent être examinés en parallèle, notamment les règles sur l’information, l’accès et la décision entièrement automatisée. Les conditions ne se superposent pas automatiquement. Une matrice de traitement indique quel droit a été demandé, le texte appliqué, le propriétaire de la réponse et les éléments communs. Elle évite que le demandeur soit renvoyé indéfiniment entre le DPO et le métier.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Toute utilisation d’IA donne-t-elle droit à une explication selon l’article 86 ?
Non. Le texte vise des décisions et des systèmes à haut risque de l’annexe III dans des conditions précises.
?Faut-il expliquer le code source ?
L’article 86 demande une explication claire du rôle de l’IA et des principaux éléments de la décision, pas la livraison automatique du code source.
?Le droit existe-t-il si un humain signe la décision ?
La présence d’un humain ne suffit pas à l’écarter. Il faut vérifier si la décision repose sur la sortie du système et si les autres conditions sont réunies.
?L’information donnée avant la décision suffit-elle ?
Pas nécessairement. L’information de l’article 26(11) et l’explication individuelle de l’article 86 répondent à des demandes différentes.
Présentez votre rôle, les systèmes concernés et l’état de votre préparation. Nous pourrons prioriser avec vous les étapes, les livrables et les preuves à construire.