IA et prestations sociales : sécuriser les décisions d’éligibilité.
Une aide sociale peut déterminer un logement, un soin ou les ressources du mois. Si un système d’IA intervient pour apprécier l’éligibilité d’une personne ou recommander une réduction de prestation, il faut savoir exactement comment sa sortie pèse dans la décision. L’annexe III de l’AI Act désigne ce cas avec précision. Elle ne classe pas pour autant tout chatbot d’une administration comme haut risque.
L’annexe III, point 5(a), vise les systèmes d’IA destinés à être utilisés par une autorité publique ou pour son compte afin d’évaluer l’éligibilité de personnes physiques à des prestations et services d’aide sociale essentiels, y compris certains soins, ou de les octroyer, réduire, révoquer ou récupérer. La qualification exige de vérifier la finalité prévue, l’effet sur la décision et l’article 6. Pour un système concerné, le déployeur doit organiser la supervision, l’information et, selon les cas, une analyse d’impact sur les droits fondamentaux.
Le cas d’usage visé est l’éligibilité ou l’octroi, la réduction, la révocation ou la récupération d’une aide essentielle.
02
Une autorité publique et un prestataire agissant pour elle doivent regarder le rôle réel du système.
03
La supervision, la motivation de la décision et la contestation sont au cœur du parcours.
04
Le RGPD et le droit administratif applicable ajoutent leurs propres exigences.
01
Identifier la décision que le système influence
La première question n’est pas de savoir si le logiciel « fait de l’IA ». Elle est de savoir si sa finalité prévue consiste à évaluer l’accès d’une personne à une aide ou à un service essentiel, ou à proposer son octroi, sa réduction, sa révocation ou sa récupération. Un assistant qui explique les pièces d’un dossier peut rester hors de ce cas. Un outil qui attribue une probabilité d’éligibilité transmise à l’instructeur peut, selon son fonctionnement, jouer un rôle central dans la décision.
Reconstituez un dossier fictif : données reçues, critères administratifs, sortie de l’IA, action de l’agent, motifs finalement communiqués. Le fait qu’un humain clique sur « valider » n’efface pas l’effet de la recommandation. Un système qui trie les dossiers « à vérifier en priorité » peut également influencer les délais et l’accès effectif. La qualification s’appuie sur la finalité du fournisseur et le parcours local, avec une analyse motivée de l’article 6(3) si elle est envisagée.
Mettre en place une supervision qui résiste aux cas atypiques
Le déployeur concerné doit pouvoir utiliser le système selon la notice, confier la supervision à des personnes compétentes et surveiller son fonctionnement. Dans un service instructeur, cela signifie donner à l’agent les éléments nécessaires pour comprendre la recommandation, corriger les données et s’en écarter. Une interface qui affiche seulement « admissible » ou « rejet » ne donne pas assez de prise sur un cas atypique.
Testez les situations où les données administratives sont incomplètes, contradictoires ou temporaires. Une personne en rupture de logement, en situation de handicap ou en changement familial peut ne pas ressembler aux cas courants du jeu d’essai. Le protocole doit prévoir une instruction humaine complète, un canal de rectification et une trace des écarts. Les indicateurs de performance globale ne remplacent pas ces tests de conséquences individuelles.
Préparer l’analyse d’impact et les droits des personnes
L’article 27 impose une analyse d’impact sur les droits fondamentaux à certains déployeurs de systèmes à haut risque avant leur première utilisation. Elle examine notamment les processus, la durée et la fréquence d’emploi, les catégories de personnes concernées, les risques de préjudice et les mesures de supervision et de recours. Pour une aide essentielle, cette analyse rend visibles les conséquences d’un refus, d’un retard ou d’une erreur répétée. Elle complète, selon les cas, l’AIPD du RGPD.
L’article 26(11) prévoit l’information des personnes concernées par certaines décisions fondées sur des systèmes à haut risque de l’annexe III. L’article 86 prévoit, sous conditions, une explication individuelle du rôle du système et des principaux éléments de la décision. Le service doit pouvoir retrouver ces éléments dans un dossier compréhensible. Une formule générique « une IA a été utilisée » ne répond pas à toutes ces exigences.
Un cahier des charges utile demande au fournisseur la finalité prévue, la classification, la notice, les limites, les tests de performance, les journaux disponibles et la méthode de gestion des changements. Il prévoit une démonstration sur des cas difficiles, ainsi qu’un export des éléments qui permettent de motiver une décision. Le service acheteur et les équipes d’instruction doivent participer à la recette ; la conformité ne peut pas être évaluée sur une seule présentation commerciale.
Après le lancement, mesurez les écarts entre recommandations et décisions humaines, les recours, les décisions annulées, les délais et les incidents. Si l’outil se met à produire un effet nouveau, requalifiez-le. Le calendrier haut risque de l’annexe III commence en principe le 2 décembre 2027 depuis la réforme de 2026 ; les marchés lancés aujourd’hui doivent anticiper les pièces et la coopération nécessaires à cette date.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Un chatbot qui explique les aides est-il automatiquement à haut risque ?
Non. Il faut vérifier s’il évalue réellement l’éligibilité ou influence une décision visée à l’annexe III.
?Une décision signée par un agent sort-elle du champ ?
Pas automatiquement. La qualification tient compte de la finalité et de la place effective de la sortie d’IA dans la décision.
?La FRIA remplace-t-elle l’AIPD ?
Non. Les déclencheurs et objets sont différents. Certaines parties peuvent être réutilisées selon l’article 27(4), sans supprimer les éléments manquants.
?Que demander au fournisseur avant un marché ?
La classification motivée, la notice, les limites, les essais, les journaux, la gestion des versions et les informations utiles à la supervision.
Expliquez votre objectif, vos usages et vos contraintes. Nous pourrons préciser les points à traiter et choisir avec vous entre conseil, accompagnement et formation.